Sobre el epígrafe XXV: Los derechos ante la inteligencia artificial

Los sistemas de inteligencia artificial (IA), pueden realizar tareas que normalmente requieren inteligencia humana, como el aprendizaje, el razonamiento y la percepción. Estos sistemas basan su funcionamiento en los datos que se les han introducido así como en los que encuentran en la red, de forma que van “aprendiendo” y evolucionando.

Su creciente utilización por parte de la ciudadanía está suponiendo una auténtica revolución de nuestra forma de aprender, trabajar e informarnos. En cuanto a las empresas y otras organizaciones, los sistemas de IA están facilitando y agilizando los procesos productivos.

¿Qué se protege?

• El diseño y el funcionamiento de los sistemas de IA deben respetar la dignidad de las personas; en particular, el derecho a la igualdad y a la no discriminación.
• El uso de los sistemas de IA debe ser sencillo y accesible.
• Los sistemas de IA deben ser explicables, auditables y transparentes. Esto quiere decir que debemos poder conocer cómo funcionan y qué razonamientos han seguido para llegar a una conclusión o resultado.
• Se reconoce el derecho a que una persona humana supervise las decisiones que han sido adoptadas sobre la base de sistemas de IA (o directamente por ellos).
• Por otro lado, los sistemas que empleen IA generativa han de respetar los derechos de autor y derechos afines de los autores de los contenidos de los que se nutren.
• Finalmente, la Carta contempla específicamente la cuestión del empleo de herramientas que incorporen IA en el ámbito de las relaciones entre la ciudadanía y las Administraciones públicas.

La clasificación de los sistemas de IA según el riesgo que representan para los derechos

Dada la novedad y la rápida evolución de las tecnologías que incorporan IA, desde la Unión Europea se aprobó un Reglamento que abordase los desafíos que plantean (el Reglamento de IA). El Reglamento de IA clasifica los sistemas de IA en las siguientes categorías:

• Sistemas de riesgo inaceptable: estos sistemas están prohibidos, dado que ponen en peligro los derechos fundamentales y la seguridad de las personas. Dentro de esta categoría se incluirían, por ejemplo, los sistemas a través de los cuales se manipule a las personas o se exploten sus vulnerabilidades.
• Sistemas de riesgo alto: estos sistemas están sometidos al cumplimiento de una serie de requisitos en materia de transparencia, supervisión humana, etc., dado que pueden tener un impacto en los derechos de las personas (así, en su salud, seguridad y empleo). Un ejemplo de ellos sería un sistema de IA que regula el tráfico en una ciudad mediante la adaptación del estado de los semáforos en función del tráfico y de los peatones.
• Sistemas de riesgo específico de transparencia: estos sistemas han de cumplir una serie de obligaciones en materia de transparencia. Son aquellos que interactúan directamente con los usuarios (chatbots, sistemas de inteligencia generativa).
• Sistemas de riesgo bajo, en las que se exige que los usuarios tengan la capacidad de actuar de manera libre e informada.

Ciertas tecnologías, como los sistemas biométricos, dependen de su finalidad para entrar en una u otra categoría. De este modo, se consideran de riesgo inaceptable (y, por tanto, prohibidos), cuando están dirigidos a crear de forma masiva bases de datos biométricos, mientras que serán de riesgo alto los que persigan la inferencia de emociones, y de riesgo bajo los que simplemente tengan por objeto la verificación biométrica para, por ejemplo, desbloquear el teléfono móvil.

De otro lado, en España se aprobó el Anteproyecto de ley para el buen uso y la gobernanza de la inteligencia artificial, aprobado en marzo de 2025 por el Consejo de Ministros, que tiene por objeto garantizar que el uso de la inteligencia artificial sea ético, inclusivo y beneficioso para las personas.

¿Quién es el titular de estos derechos?

Este derecho se reconoce a todas las personas.

¿Quiénes están obligados a velar por el cumplimiento de las obligaciones que nacen de estos derechos?

• En primer lugar, los proveedores y los responsables del despliegue de tecnologías de IA están obligados a cumplir los requisitos exigidos por el Reglamento de IA y demás normativa aplicable.
• La Agencia Española de Supervisión de Inteligencia Artificial (AESIA), que es el organismo público encargado de garantizar el uso ético y seguro de la IA en España. Su principal misión es asegurar que tanto entidades públicas como privadas cumplan con la normativa vigente, protegiendo la privacidad, igualdad de trato y derechos fundamentales.
• También supervisan el uso de la IA en España otros organismos, como el Banco de España, la Agencia Española de Protección de Datos o el Consejo General del Poder Judicial.

Para saber más…

Normativa aplicable.

Constitución Española de 1978.

Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales.

Ley 19/2013, de 9 de diciembre, de transparencia, acceso a la información pública y buen gobierno.

Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024 por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) n.o 300/2008, (UE) n.o 167/2013, (UE) n.o 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial).

Otros textos de interés.

BARRIO ANDRÉS, Moisés, “Génesis y desarrollo de los derechos digitales”, Revista de las Cortes Generales, Nº 110 (2021) 6.

COTINO HUESO, Lorenzo, en COTINO HUESO, Lorenzo (dir.), La Carta de derechos digitales, Tirant lo Blanch, 2025. 

DE LA NUEZ SÁNCHEZ CASCADO, E., “Inteligencia artificial y transparencia. Especial referencia a su utilización en el ámbito de las Administraciones Públicas”, El Notario del siglo XXI, nº 125, en.-feb. 2026.

RUBÍ PUIG, A., “Reglamento de inteligencia artificial y derechos de autor”, en Revista Jurídica de les Illes Ballears, 2024.
VEIGA A.B., Inteligencia artificial y Derecho, Aranzadi, 2025.

Autoría:

María del Carmen Camblor de Echanove 

Universidad Carlos III de Madrid 

Departamento de Derecho Público del Estado 

Instituto Pascual Madoz