OPINIÓN

Neurodatos e Inteligencia Artificial: proteger a las personas en un mundo digital



Dirección copiada

Con la neurotecnología se desarrollan dispositivos con los que se puede registrar, medir, interpretar o alterar la actividad del cerebro y el sistema nervioso

Publicado el 1 feb 2024



Neurotecnología
Neurotecnología

Una de las tecnologías que está experimentando un gran desarrollo y avance en los últimos años es la neurotecnología, que tiene el potencial de generar un impacto sin precedentes en la sociedad y cuyas implicaciones y consecuencias plantean grandes desafíos y oportunidades que requieren de una reflexión ética, social y legal.

Con la neurotecnología se desarrollan dispositivos con los que se puede registrar, medir, interpretar o alterar la actividad del cerebro y el sistema nervioso.

Estos dispositivos, conocidos como interfaces cerebro-computador (BCI por sus siglas en inglés Brain-Computer Interface) emplean sistemas electrónicos, ópticos, magnéticos, acústicos o mecánicos, y son capaces de registrar y modificar la actividad y respuesta de los sistemas nerviosos de las personas a sus entornos internos (edad, sexo, estado psicoafectivo, patologías…) o externos (ambientales, actividades, estímulos…).

Sus aplicaciones van más allá del uso médico, existiendo ya en el mercado dispositivos de consumo para que utilicen la neurotecnología en aspectos diversos como bienestar, concentración, entretenimiento, realidad virtual, investigación, neuromarketing o fines militares.

Con el uso de la inteligencia artificial se está avanzando enormemente en la descodificación de la actividad cerebral, lo que puede inferir y revelar información asociada a la parte más íntima de la persona

Los datos neurológicos o neurodatos que estas tecnologías permiten recolectar, asociados a personas identificadas o identificables, son datos personales según el Reglamento General de Protección de Datos (RGPD).

Informes científicos muestran que muchas características del cerebro humano dependen de factores genéricos, biológicos y ambientales que podrían actuar como mecanismos de identificación y autenticación biométrica.

“Los neurodatos tienen unas características y cualidades especiales que comparten con los datos genéticos: el cerebro será un identificador tan único como una huella dactilar o un genoma”

Los neurodatos tienen unas características y cualidades especiales que comparten con los datos genéticos: el cerebro será un identificador tan único como una huella dactilar o un genoma. Neurodatos e información genómica ofrecen la posibilidad de predecir o inferir otra información, y pueden desvelar indicios sobre el pasado de una persona e intentar predecir su futuro.

También ambos exponen aspectos únicos y personales, que no necesariamente son observables o conocidos por el propio individuo.

La información cerebral, como el genoma, es predictiva en el comportamiento de las personas, y está sujeta a interpretaciones subjetivas, lo que deja espacio para el sesgo, el error y la inexactitud, suponiendo una mayor implicación en la privacidad y en los riesgos asociados.

Pero, además, los interfaces cerebro-computador permiten potencialmente la comunicación bidireccional, exportando datos del cerebro o alterando la actividad cerebral, logrando así modificar el comportamiento de la persona.

Con el uso de la inteligencia artificial se está avanzando enormemente en la descodificación de la actividad cerebral, lo que puede inferir y revelar información asociada a la parte más íntima de la persona, como pensamientos, sentimientos, estados de salud (sin ser dispositivos de uso médico), información desconocida para la propia persona o que está fuera de su control, y todo ello puede usarse con fines predictivos, de perfilado y otros. De esta manera, los neurodatos pueden afectar no solo a la privacidad, sino a otros derechos fundamentales, pudiéndose considerar categorías especiales de datos. De este modo, los tratamientos en los que se emplean neurodatos son de alto riesgo y están protegidos y regulados por la normativa de datos personales (RGPD).

En los escaneos del cerebro realizados por los BCI puede capturarse una cantidad desmesurada de datos, que son procesados por sistemas de inteligencia artificial, tecnología que empieza ya a transformar nuestro presente. Los avances venideros podrán permitir una decodificación más precisa de los neurodatos, posibilitando su uso para otros fines distintos al original para el que han sido capturados o la reidentificación.

Un tratamiento que tome decisiones automatizadas usando la inteligencia artificial puede afectar gravemente a las personas, puede evaluar o hacer predicciones sobre ellas de manera individual e individualizada, o bien influir en la ejecución de acciones, y, por tanto, exige que se implementen garantías de calidad y seguridad.

Neurotecnología: Protección de los neurodatos

La propuesta de Reglamento de Inteligencia Artificial (AIA) de la Unión Europea establece que los proveedores de sistemas de IA deben informar a los usuarios sobre las características y el funcionamiento de estos sistemas, incluyendo todos los algoritmos de ajustes y aprendizaje empleados, especialmente cuando implican el tratamiento de datos personales.

Los responsables del tratamiento de datos personales deben cumplir con las obligaciones de transparencia del RGPD, como informar a las personas sobre la toma de decisiones automatizadas o elaboración de perfiles y garantizar sus derechos.

Neurodatos e inteligencia artificial

La neurotecnología y la inteligencia artificial suponen retos que inquietan y motivan a la AEPD a promover activamente el desarrollo responsable y respetuoso de estas tecnologías, garantizando siempre el cumplimiento de la normativa de protección de datos y los derechos fundamentales de las personas.

La Agencia Española de Protección de Datos está trabajando en desarrollar un marco sólido de protección de los neurodatos: ha publicado varios documentos en su web relacionados con esta materia e inteligencia artificial, financiado proyectos de investigación, impulsado la ‘Declaración sobre neurodatos’ de la Red Iberoamericana de Protección de Datos y colabora con el ICO, la autoridad de protección de datos en Reino Unido.

La Agencia Española de Protección de Datos está trabajando en desarrollar un marco sólido de protección de los neurodatos

Además, colabora con la fundación Neurorights Foundation, de la Universidad de Columbia, Nueva York, y apoya los cinco neuroderechos identificados por esta como críticos: la identidad personal, que protege la consciencia de la persona frente a los datos tecnológicos externos, debiéndose desarrollar límites para prohibir que la tecnología altere el sentido de uno mismo; el libre albedrío, que preserva la capacidad de las personas de tomar decisiones de forma libre y autónoma, sin manipulación por parte de las neurotecnologías; la privacidad mental, que protege a las personas del uso de los datos obtenidos durante la medición de su actividad cerebral y requiere una regulación estricta para cualquier transacción comercial con esos datos; el acceso equitativo, que busca la regulación en la aplicación de las neurotecnologías para aumentar las capacidades cerebrales, de manera que no queden solo al alcance de unos pocos y generen desigualdad en la sociedad; y la protección contra los sesgos, para evitar que las personas sean discriminadas por cualquier factor, como pudiera ser un mero pensamiento que se pueda obtener mediante el uso de las neurotecnologías.

Artículos relacionados

Artículo 1 de 5