Decisiones automatizadas y protección de datos Especial atención a los sistemas de inteligencia artificial

La presente obra tiene como objetivo principal estudiar la incidencia de la toma de decisiones automatizadas, y en especial de la inteligencia artificial (IA) en el derecho fundamental a la protección de datos personales. Para lograr esta meta, en el primer capítulo de este trabajo tomamos como referencia las dos grandes fases que están presentes durante el ciclo de vida de los sistemas de toma de decisiones automatizadas e inteligencia artificial, estas son: i) la fase de diseño, cuyo objetivo principal es desarrollar y elaborar el sistema de toma de decisiones y, ii) la fase de despliegue, la cual tiene como finalidad la puesta en marcha del sistema en el entorno donde éste desplegará sus efectos. Realizada esta aproximación técnica inicial, en los capítulos siguientes se analiza de forma pormenorizada cómo la toma de decisiones automatizadas y el desarrollo de la IA se proyecta en la legislación europea y nacional sobre de protección de datos personales. Los distintos elementos jurídicos que presenta esta normativa se analizan e interpretan tomando como referencia la realidad presente en este tipo de sistemas automatizados.En todo momento se proponen soluciones que respeten el difícil equilibrio entre la protección adecuada de los derechos de las personas y el desarrollo apropiado de estas nuevas tecnologías.Adrián Palma Ortigosa es Doctor en Derecho por la Universidad de Valencia y Premio mejor expediente de su promoción concedido por la Real Academia de Jurisprudencia y Legislación de Granada. Su investigación se ha centrado hasta la fecha en el estudio de los derechos y garantías frente al desarrollo de las nuevas tecnologías, concretamente, las relacionadas con la inteligencia artificial y las decisiones automatizadas. Ha impartido docencia en los Grados de Derecho y Ciencia de Datos de la Universidad de Valencia. Además, forma parte de varios cursos especializados sobre derecho administrativo, protección de datos e inteligencia artificial en diversas universidades españolas. Ha colaborado con diversas instituciones privadas a través de diversos contratos de transferencia de conocimiento relacionados con las implicaciones legales del uso de sistemas de inteligencia artificial.

Dykinson

PrólogoIntroducciónCapítulo I. La automatización de las decisionesI. TECNOLOGÍAS PRESENTES EN LOS SISTEMAS DE TOMA DE DECISIONES AUTOMATIZADAS1. Soporte de los sistemas. Los algoritmos2. Tecnologías en las que se basan los sistemas de toma de decisiones automatizadas3. El desarrollo exponencial de los sistemas de toma de decisiones automatizadas ¿Por qué ahora y no antes? La tormenta perfectaII. EL CICLO DE VIDA DE LOS SISTEMAS DE TOMA DE DECISIONES AUTOMATIZADAS1. La fase de diseño de los sistemas de toma de decisiones automatizadas2. La fase de despliegue de los sistemas de toma de decisiones automatizadasCapítulo II. Introducción al régimen normativo de los sistemas de toma de decisiones automatizadas en el derecho fundamental a la protección de datosI. EL DERECHO FUNDAMENTAL A LA PROTECCIÓN DE DATOS PERSONALES Y LA TOMA DE DECISIONES AUTOMATIZADASII. ÁMBITO OBJETIVO DE LAS DECISIONES AUTOMATIZADAS EN LA NORMATIVA DE PROTECCIÓN DE DATOS PERSONALES1. Tratamientos presentes durante el ciclo de vida de los sistemas de toma de decisiones automatizadas2. Los datos personales durante el ciclo de vida de los sistemas de toma de decisiones automatizadasIII. ÁMBITO SUBJETIVO DE LAS DECISIONES AUTOMATIZADAS EN LA NORMATIVA DE PROTECCIÓN DE DATOS PERSONALES1. Los titulares de los datos personales: Los interesados2. Los sujetos obligados: El responsable y el encargadoCapítulo III. Los principios del tratamiento de datos personales durante el ciclo de vida de los sistemas de toma de decisiones automatizadas. Las condiciones necesarias para tratar los datosI. EL PRINCIPIO DE LICITUD1. El consentimiento del interesado en los tratamientos de datos presentes durante el ciclo de vida de los sistemas de toma de decisiones automatizadas2. La existencia de un contrato como base para legitimar el desarrollo y despliegue de sistemas de inteligencia artificial3. Cumplimiento de una obligación legal o autorización del tratamiento a través de una norma4. La misión de interés público o el ejercicio de poderes públicos en la toma de decisiones automatizadas5. El interés legítimo en los tratamientos de datos basados en sistemas de toma de decisiones automatizadas6. La legitimación de los tratamientos de datos de categoría especial en los sistemas de toma de decisiones automatizadasII. EL PRINCIPIO DE LIMITACIÓN DE LA FINALIDAD1. El responsable sólo debe recopilar datos para fines específicos, explícitos y legítimos2. Uso posterior de los datos con una finalidad distinta a la inicial3. Nuevos enfoques a la hora de analizar masivamente los datos bajo el paraguas del principio de limitación de la finalidadIII. EL PRINCIPIO DE MINIMIZACIÓN DE DATOS1. El principio de minimización de datos durante el diseño de los sistemas de toma de decisiones automatizadas. El estudio de minimización de datos2. El principio de minimización en la fase de despliegue o toma de decisionesIV. El PRINCIPIO DE EXACTITUD1. Fase de diseño de los sistemas de toma de decisiones automatizadas2. Fase de despliegue de los sistemas de toma de decisiones automatizadosV. EL PRINCIPIO DE LIMITACIÓN DEL PLAZO DE CONSERVACIÓN DE LOS DATOS1. La conservación de los datos más allá del tiempo estrictamente necesarioVI. EL PRINCIPIO DE TRANSPARENCIA1. Fase de diseño de los sistemas de toma de decisiones automatizados2. Fase de despliegue de los sistemas de toma de decisiones automatizados3. Límites a los deberes de información en el uso de sistemas de toma de decisiones automatizadasVII. EL PRINCIPIO DE LEALTAD Y EL DE PROHIBICIÓN DE DISCRIMINACIÓN ALGORÍTMICAVIII. EL PRINCIPIO DE RESPONSABILIDAD ACTIVA1. El análisis de riesgos2. La evaluación de impacto en protección de datos3. La privacidad desde el diseño y por defecto4. Las medidas de seguridad del tratamiento5. El registro de actividades de tratamiento………..6. La anonimización y la seudonimización7. El monitoreo y la evaluación8. Las auditorías en protección de datos9. El delegado de protección de datosCapítulo IV. Los derechos de los interesados sometidos a sistemas de toma decisiones automatizadasI. INTRODUCCIÓNII. DERECHOS GENERALES EN FAVOR DE LOS PARTICULARES SOMETIDOS A SISTEMAS DE TOMA DE DECISIONES TOTAL O PARCIALMENTE AUTOMATIZADAS1. El derecho de acceso2. El derecho de rectificación3. El derecho de supresión4. Derecho a la portabilidad de datos5. Derecho de oposiciónIII. EL DERECHO A NO SER SOMETIDO A DECISIONES PLENAMENTE AUTOMATIZADAS RELEVANTES1. Origen de este derecho2. Prohibición general de este tratamiento. Las excepciones que legitiman el tratamiento3. Garantías en favor de los interesados cuando el tratamiento se base en el consentimiento explícito o el contrato4. Garantías en favor de los interesados cuando el tratamiento se base en una norma estatal o europea. Necesidad de establecer suficientes garantías5. Garantías en favor de los interesados cuando el tratamiento utilice datos de categoría especial. Especial atención a los problemas de discriminación algorítmicaIV. PROPUESTA DE INTEGRACIÓN DE LOS DERECHOSV. LOS MECANISMOS DE TUTELA A FAVOR DEL INTERESADO ANTE EL INCUMPLIMIENTO DE LA NORMATIVA DE PROTECCIÓN DE DATOS1. El derecho a presentar una reclamación ante una autoridad de control2. El derecho a la tutela judicial efectiva. El recurso contra las decisiones de las autoridades de control o las actuaciones de los responsables y encargados3. La representación de los interesados por organizaciones o asociaciones sin ánimo de lucroConclusionesBibliografíaI. ARTÍCULOS CIENTÍFICOS, CAPÍTULOS DE LIBRO Y LIBROSII. DOCUMENTOS E INFORMES DE GRUPOS DE TRABAJO, ORGANISMOS INTERNACIONES, ASOCIACIONES Y FUNDACIONESIII. RESOLUCIONES DE AUTORIDADES DE PROTECCIÓN DE DATOS