Ética de la inteligencia artificial: de la neurociencia a los algoritmos

Ética de la inteligencia artificial: de la neurociencia a los algoritmos

Mercedes Siles Molina

Catedrática de álgebra, Universidad de Málaga

Miembro del Consejo Asesor de la Fundación Hermes

Directora del proyecto “Algoritmos éticos y responsables para el desarrollo humano”.

1. Introducción

Los extraordinarios avances de la neurociencia, en convergencia con el avance igualmente extraordinario de la inteligencia artificial (IA), así como el interés por una acelerada implantación de esta última, han dado lugar a una serie de dilemas éticos sin precedentes. Estos desafíos requieren, no solo la necesidad de una profunda reflexión sobre el impacto de la IA en nuestras vidas y nuestra sociedad, sino también una acción decidida. En el marco de nuestra colaboración con la Fundación Hermes, hemos llegado a la convicción de que es imprescindible establecer unos principios éticos frente a los efectos de los algoritmos que salvaguarden nuestra salud –en todas sus dimensiones–, nuestra integridad y nuestra esencia como seres humanos. Este artículo representa el punto de partida de ese compromiso.

1.1. La década del cerebro 

El interés científico por conocer el cerebro y su gran importancia para la humanidad, junto con la necesidad de financiación para investigarlo, propició en Estados Unidos la constitución de un núcleo de personas, procedentes del ámbito de la investigación, y también de la política, que se dedicó a presionar al más alto nivel político. Su esfuerzo tuvo recompensa y el 17 de julio de 1990 el entonces presidente de los Estados Unidos, George Bush (padre) —y el Congreso de los Estados Unidos—, declaró la última década del siglo XX como la Década del Cerebro (JMML1993; JU 2023; EG 2024).

El 2 de abril de 2013 Barak Obama (WH-O 2013), presidente a la sazón, anunció la puesta en marcha de un proyecto de gran envergadura, The BRAIN Initiative (BRAINI; NIH 2013), cuyo objetivo era el conocimiento del cerebro en profundidad. De él hablaremos con más detalle en la siguiente sección.

En Europa existía la misma conciencia acerca de la importancia de comprender cómo funciona el cerebro. Así, se gestó el proyecto Human Brain Project (HBP 2013) de la Comisión Europea, que se inició en octubre de 2013, y que comprendía desde ese año y hasta 2023. De esta manera se resumía, en 2012, su objetivo:

The Human Brain Project should lay the technical foundation for a new model of ICT-based brain research, driving integration between data and knowledge from different disciplines, and catalysing a community effort to achieve a new understanding of the brain, new treatments for brain disease and new brain-like computing technologies.

El Proyecto Cerebro Humano debería sentar las bases técnicas para un nuevo modelo de investigación cerebral basado en las tecnologías de la información y la comunicación (TIC), impulsando la integración entre datos y conocimientos de diferentes disciplinas, y catalizando un esfuerzo comunitario para lograr una nueva comprensión del cerebro, nuevos tratamientos para enfermedades cerebrales y nuevas tecnologías informáticas inspiradas en el cerebro.

1.2. La presencia española

En 1997, el biólogo español Javier de Felipe Oroquieta (WP-JDF) entró a formar parte del proyecto Neurolab Mission (JU 2023) de la NASA, para estudiar el impacto de los vuelos espaciales en los circuitos neuronales del cerebro. De Felipe investiga, desde 2006, los efectos del Alzheimer en la corteza cerebral, y forma parte desde su inicio, en 2005, del proyecto Blue Brain, liderado por Henry Markram, que sirvió de base para The Human Brain Project. España participa en Blue Brain con el proyecto Cajal Blue Brain (Cajal-CBB), liderado por de Felipe. 

No es de extrañar que, siendo considerado Santiago Ramón y Cajal el padre de la neurociencia moderna, haya dos españoles que desempeñen un papel relevante en ambas iniciativas: Rafael Yuste en la estadounidense (The BRAIN Initiative) y Javier de Felipe Oroquieta en la europea (The Human Brain Project), como tampoco ha de sorprender la interconexión entre ambas—.

2. De la innovación a la preocupación ética

2.2. Las iniciativas americana y europea

A raíz de la BRAIN Initiative, del Human Brain Project, así como de otros proyectos en relación con la investigación sobre el cerebro, de los grandes logros obtenidos mediante la utilización de interfaces ordenador-cerebro —en inglés, brain-computer interface, BCI, lo que ha dado lugar a la llamada BCI tecnología—, y de las inmensas perspectivas que se abrían, surgió la alarma en el mundo científico (YGAetAl 2017). Porque se comprendió que, si bien la tecnología estaba siendo utilizada con fines nobles —tratamiento de trastornos cerebrales, tanto neurológicos como mentales; estudio de la movilidad en personas con lesiones medulares; y otros usos terapéuticos—, cabía la posibilidad de que pudiera usarse con fines espurios. No es ilusoria la viabilidad de introducir imágenes no reales en el cerebro de una persona, tal y como se ha hecho en ratones, a los que se les ha provocado alucinaciones manipulando el córtex cerebral (JD 2022), con el objetivo de modificar su conducta con fines comerciales; podrían decodificarse procesos mentales para interferir en las intenciones, emociones y decisiones, entre muchos otros efectos perniciosos (YGAetAl 2017). Tales posibilidades plantean unos dilemas éticos que es necesario abordar. Así, en 2017 se creó el llamado Morningside Group, formado por veinticinco personas con interés, a todos los niveles —conocer, concienciar y actuar—, en las implicaciones éticas y sociales de las neurotecnologías. Una de esas personas es Rafael Yuste, uno de los principales investigadores del proyecto BRAIN Initiative (JB 2023), quien, además, preside la Neurorights Foundation (NRF), y forma parte del Consejo Asesor de Hermes. 

En abril de 2017 Marcello Ienca y Roberto Andorno publicaban en la revista Life Sciences, society and Policy el artículo “Towards new human rights in the age of neuroscience and neurotechnology“ (IA 2017.1); para una versión divulgativa, véase: ”A new category of human rights: neurorights” (IA 2017.2). En dicho artículo llaman la atención acerca de las posibilidades que abren los avances en neurociencia y neurotecnología para “acceder, recopilar, compartir y manipular información del cerebro humano”, y del peligro que supone para el respeto a los derechos humanos. En dicho artículo, tras analizar la relación entre neurociencia y derechos humanos, llegan a la conclusión de que es necesario ampliar el catálogo de los derechos recogidos en la Declaración Universal de los Derechos Humanos de 1948, e incluir los que llaman neuroderechos, de los que recogen cuatro nuevos tipos: derecho a la libertad cognitiva, derecho a la privacidad mental, derecho a la integridad mental y derecho a la continuidad psicológica. 

2.2. Los riesgos y la preocupación ética

En noviembre de 2017 Yuste, Sara Goering, y las veintitrés personas restantes del Morningside Group, publicaron un artículo en la revista Nature, “Four ethical priorities for neurotechnologies and AI” (YGAetAl 2017), en el que, igualmente, alertaban de los riesgos, de la necesidad de ampliar el catálogo de derechos humanos, y apuntaban líneas de actuación.

Thus, we advocate the creation of an international convention to define prohibited actions related to neurotechnology and machine intelligence, similar to the prohibitions listed in the 2010 International Convention for the Protection of All Persons from Enforced Disappearance

Así, abogamos por la creación de una convención internacional que defina acciones prohibidas relacionadas con la neurotecnología y la inteligencia artificial, similar a las prohibiciones enumeradas en la Convención Internacional para la Protección de Todas las Personas contra las Desapariciones Forzadas de 2010.

Este trabajo precedió a la creación, en 2019, de la Neurorights Foundation, y de la Neurorights Initiative, cuyo objetivo es proteger los fundamentos de la dignidad humana y que se reconozcan cinco neuroderechos: derecho a la identidad personal; derecho al libre albedrío; derecho a la privacidad mental; derecho al acceso equitativo a las tecnologías de mejora; y protección contra sesgos en los algoritmos. 

Es el reconocimiento a los neuroderechos, en particular, el reconocimiento a la protección contra los efectos perniciosos de la neurociencia y la neurotecnología el lecho sobre el que reposa el interés por trabajar en el establecimiento de unos principios que protejan al ser humano de los posibles efecto e impacto nocivos de los algoritmos.

2.3. Ética algorítmica para una IA con propósito

A finales de 2023 la autora de este artículo comenzó la preparación de un programa para avanzar en el establecimiento de unos principios que deben regir el diseño, uso e impacto de la IA (MSM 2023). El año siguiente puso en marcha en la Fundación Hermes el seminario Algoritmos éticos y responsables para el desarrollo humano (Hermes, 2024), uno de cuyos objetivos, de los que se hablará en otro trabajo, es establecer una Carta de principios algorítmicos.

Conclusión

El recorrido aquí presentado muestra que la preocupación por una IA ética no surge en el vacío, sino que es fruto de décadas de avances en el conocimiento de cómo funciona el cerebro humano. La aparición del concepto de neuroderecho ha sido fundamental para articular la necesidad de proteger el derecho a la identidad personal; al libre albedrío; a la privacidad mental; al acceso equitativo a las tecnologías de mejora; y la protección contra sesgos en los algoritmos. En este marco, establecer unos principios que deben cumplir los algoritmos es mucho más que un aspecto técnico: se trata de definir las condiciones necesarias para garantizar los derechos de la ciudadanía y la orientación de la tecnología al desarrollo humano.