Sobre el epígrafe XXV: Los derechos ante la inteligencia artificial

XXV - La inteligencia artificial debe centrarse en la persona, respetar su dignidad y buscar el bien común sin causar daño. Debe evitar la discriminación y garantizar transparencia, supervisión humana, explicabilidad y fiabilidad en todo su ciclo de vida. Además, las personas tienen derecho a pedir intervención humana y a recurrir decisiones automatizadas que les afecten.

Nuevos entornos digitales

Material educativo

Los sistemas de inteligencia artificial (IA), pueden realizar tareas que normalmente requieren inteligencia humana, como el aprendizaje, el razonamiento y la percepción. Estos sistemas basan su funcionamiento en los datos que se les han introducido así como en los que encuentran en la red, de forma que van “aprendiendo” y evolucionando.

Su creciente utilización por parte de la ciudadanía está suponiendo una auténtica revolución de nuestra forma de aprender, trabajar e informarnos. En cuanto a las empresas y otras organizaciones, los sistemas de IA están facilitando y agilizando los procesos productivos.

¿Qué se protege?

El diseño y el funcionamiento de los sistemas de IA deben respetar la dignidad de las personas; en particular, el derecho a la igualdad y a la no discriminación.
El uso de los sistemas de IA debe ser sencillo y accesible.
Los sistemas de IA deben ser explicables, auditables y transparentes. Esto quiere decir que debemos poder conocer cómo funcionan y qué razonamientos han seguido para llegar a una conclusión o resultado.
Se reconoce el derecho a que una persona humana supervise las decisiones que han sido adoptadas sobre la base de sistemas de IA (o directamente por ellos).
Manifestaciones del derecho a la igualdad, a la no discriminación, a información de consumidores y usuarios.

¿Quién es el titular de estos derechos?

Este derecho se reconoce a todas las personas.

¿Quiénes están obligados a velar por el cumplimiento de las obligaciones que nacen de estos derechos?

Los proveedores y los responsables del despliegue de tecnologías de IA.

Algunas ideas.

Algunos ejemplos:

Para saber más…

Normativa aplicable.

Constitución Española de 1978.

Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales.

Ley 19/2013, de 9 de diciembre, de transparencia, acceso a la información pública y buen gobierno.

Reglamento Europeo de Inteligencia Artificial.

Otros textos de interés.

BARRIO ANDRÉS, Moisés, “Génesis y desarrollo de los derechos digitales”, Revista de las Cortes Generales, Nº 110 (2021) 6.

COTINO HUESO, Lorenzo, en COTINO HUESO, Lorenzo (dir.), La Carta de derechos digitales, Tirant lo Blanch, 2025.

Autoría:

Carmen Camblor de Echanove

Universidad Carlos III de Madrid

Derecho Público del Estado Instituto Pascual Madoz