La inteligencia artificial (IA) está experimentando un rápido avance y se integra cada vez más en nuestra vida cotidiana, desde la generación de contenido hasta el reconocimiento de voz e imágenes. Si bien promete mejorar nuestras vidas, también plantea desafíos significativos, incluida la brecha económica, la transformación del empleo y el riesgo de sesgos y discriminación. Es esencial implementar medidas para garantizar un desarrollo y uso ético de la IA, abordando la desinformación, regulando su desarrollo y promoviendo una distribución equitativa de sus beneficios. La educación sobre la IA y una evaluación continua de su impacto son fundamentales para construir confianza en esta tecnología y maximizar sus beneficios para la humanidad. Roberto Castro Elordi, Profesor del Máster en riesgos de EALDE Business School, nos habla a fondo de todas estas cuestiones.
Índice de temas
¿Cómo describirías el estado actual de la inteligencia artificial?
La inteligencia artificial (IA) está creciendo muy rápidamente en todos los campos del conocimiento y es cada vez más utilizada en la vida diaria.
Lo anterior provoca que los gobiernos desarrollen diversos tipos de regulaciones para controlar lo que se puede hacer o no, con la inteligencia artificial.
Entre las características actuales de la inteligencia artificial (IA) están:
- Los sistemas de IA actuales están diseñados para tareas particulares, aunque se está trabajando en desarrollar una IA general para realizar gran cantidad de actividades. Por ejemplo, pueden generar contenido de calidad, generación de imágenes o traducción de idiomas
- Hay procesadores especializados en IA, que permiten mayor velocidad a los algoritmos de aprendizaje
- Se utilizan redes neuronales para reconocimiento de imágenes y voz
- No hay un impacto en el empleo, hasta el momento, pero se espera que, a futuro, el uso de la inteligencia artificial pueda reducir las ofertas laborales. Es de destacar, que que se destruirá un tipo de trabajo repetitivo y se crearán más trabajos innovadores gracias a la IA.
¿Por qué la IA se considera un nuevo gran riesgo global?
La inteligencia artificial (IA) se considera un nuevo gran riesgo global debido a:
Aumentará la brecha económica entre los países ricos y los pobres. Además, dentro de cada país, también aumentará la brecha económica entre las personas con mayor capacidad tecnológica y las que tengan menos.
Transformación del empleo a medio/ largo plazo, lo que provocará la pérdida de empleo para las personas menos capacitadas, aumentando las desigualdades socioeconómicas a nivel mundial.
Impulsa la creación noticias falsa y desinformación, porque tiene la IA puede manejar grandes volúmenes de datos y transformarlos para que parezcan confiables.
Autonomía y toma de decisiones, por la IA, en sistemas autónomos, lo que lleva a preguntarse sobre el responsable en caso de errores o decisiones contra alguna persona, como en el caso de los coches autónomos.
La privacidad y seguridad de las personas puede verse comprometida debido a que la IA recopila y analiza grandes cantidades de datos personales, que pueden ser utilizados de forma inadecuada y/o ilegal.
La IA puede amplificar los sesgos y la discriminación que contienen los datos que le suministran
¿Cómo ha impactado la IA en la generación de desinformación?
La Inteligencia Artificial (IA) ha tenido un impacto importante en la generación de desinformación, debido a:
- Manipulación de la búsqueda de información para que solo puedas encontrar lo que el sistema desea o para que las personas no puedan contrastar las ideas y con ello amplificar la desinformación y la polarización.
- Manipulación de imágenes y videos donde se reemplaza el rostro de una persona por otra para desprestigiarla o mostrar que hace o dice cosas que son contrarias a su forma de pensar o ser.
- Difusión de noticias falsas a través de bots, que hacen creer que hay un apoyo masivo a esa idea o hecho, cuando no es verdad.
- Detección de contenido/ noticias falsas, lo cual ayuda a contener su difusión. Sin embargo, esta estrategia no es muy eficiente dado que lo que desarrollan las noticias falsas utilizan mecanismos para reducir su detección.
¿Qué medidas se están tomando para combatir la desinformación y el contenido ilegal online?
Leyes: Muchos países están implementando o fortaleciendo leyes y regulaciones para abordar la desinformación y el contenido ilegal en línea.
Ejemplo 1: La comisión europea ha propuesto la Ley de Servicios Digitales (DSA) que comenzó a aplicarse el 17 de febrero de 2024, la cual permitirá combatir las noticias falsas e ilegales, así como los bienes y servicios en la misma línea.
Ejemplo 2: En China es obligatorio colocar una marca de agua a todo el contenido creado con inteligencia artificial, sea real o no, para poder controlarlo con mayor facilidad.
Colaboración con plataformas digitales: Los gobiernos, las organizaciones internacionales y las empresas tecnológicas colaboran para desarrollar políticas y herramientas para combatir la desinformación y el contenido ilegal en línea
Educación: Se están implementando programas educativos para aumentar la conciencia sobre cómo identificar la desinformación y el contenido ilegal en línea. Estos programas a menudo se dirigen tanto a los consumidores de información como a los creadores de contenido.
Verificación de hechos: Se están desarrollando organizaciones en muchos países, dedicadas a la verificación de contenido con la finalidad de identificar y corregir la desinformación en línea. Estas organizaciones a menudo colaboran con plataformas digitales y medios de comunicación para difundir información precisa y combatir la desinformación.
Tecnología de detección y moderación: Las empresas de tecnología están invirtiendo en herramientas de inteligencia artificial y aprendizaje automático para detectar y moderar el contenido ilegal y la desinformación en línea. Sin embargo, es importante resaltar que los generadores de contenido falso también crean herramientas para eludir la detección de las noticias falsas.
Participación de la comunidad: Las plataformas digitales tienen mecanismos para que los usuarios informen respecto a contenido falso y/o ilegal en dichas plataformas.
¿Cuál es el papel de la regulación en el desarrollo de la IA?
La regulación juega un papel crucial en el desarrollo de la inteligencia artificial (IA) por varias razones:
Seguridad y calidad: Las regulaciones pueden establecer requisitos de seguridad y calidad para garantizar que los sistemas de IA sean seguros, y no representen riesgos significativos para los usuarios o la sociedad en general.
Responsabilidad: Las regulaciones establecen responsabilidades legales en el desarrollo y uso de la Inteligencia Artificial. Lo anterior incluye la protección de la privacidad de los datos, la equidad y la responsabilidad por posibles daños causados. Así mismo garantizan la protección del consumidor al garantizar que los productos y servicios basados en IA cumplan con estándares mínimos de calidad y seguridad.
No Discriminación: Las regulaciones pueden exigir que los sistemas de IA sean entrenados y utilizados de manera que no discriminen injustamente a ciertos grupos de personas.
Desarrollo Sostenible: Las regulaciones pueden promover el desarrollo sostenible de la IA al abordar el impacto de su utilización en: empleo, distribución de los beneficios y
mitigación de riesgos en las actividades donde se utiliza.
¿Cómo afectará la IA a la brecha digital entre países?
La brecha digital entre países aumentará con la Inteligencia Artificial (IA) debido a los siguientes factores:
Educación: Los países pobres tienen en promedio un menor nivel educativo que los países más ricos por lo que, en promedio, las personas de los países pobres no tienen los conocimientos y habilidades requeridos para obtener el máximo provecho de la IA.
Tecnología: La IA requiere el acceso y uso de la tecnología que es limitado en los países más pobres. En cambio, en los países ricos, el acceso a dispositivos tecnológicos, así como a red de fibra óptica para conexión a internet a altas velocidades permite obtener un mayor rendimiento de la IA. Además, la inteligencia artificial se desarrolla en los países ricos, lo que les genera más riqueza porque los demás deben pagar para utilizar su servicio.
Desarrollo económico: Debido a los dos puntos anteriores, el desarrollo económico de los países más ricos será mayor con el uso de la IA que en los países más pobres.
¿Qué medidas se pueden tomar para asegurar que los beneficios de la IA se distribuyan de manera equitativa?
No existe forma de asegurar que los beneficios de ninguna tecnología, incluyendo la Inteligencia Artificial, pueda distribuirse de forma equitativa.
Ejemplos de lo anterior, tenemos varios, pero quizás uno muy conocido es el desarrollo de los programas de oficina de los ordenadores, en los cuales una empresa tiene una participación de más del 80% del mercado y con ello los beneficios no se distribuyen equitativamente.
Su más fuerte competidor en el área permitió, después de muchos años, que estos programas se pudieran instalar en sus ordenadores, para no perjudicar a los usuarios de sus famosos ordenadores que tenían sus propios programas de escritorio, pero no tenían la implantación de la empresa cuasi-monopólica.
Dicho lo anterior, se pueden tomar las siguientes medidas para buscar esa distribución equitativa, aunque sin garantías de lograrlo:
Acceso equitativo: Impulsar el acceso a las tecnologías de IA por parte de toda la población. Esto implica políticas que promuevan la inclusión digital y la accesibilidad para personas de diferentes grupos socioeconómicos, regiones, habilidades, origen étnico y cultural, así como género.
Impacto económico y social: Desarrollar políticas para:
- Gestionar la automatización del trabajo
- Reestructurar la fuerza laboral
- Redistribuir los beneficios económicos generados por la Inteligencia Artificial.
Formación: Invertir en programas de formación para desarrollar habilidades necesarias en el uso y desarrollo de IA.
Marco regulatorio: Establecer un marco regulatorio que promueva el desarrollo, aplicación e innovación de la IA, pero que a la vez proteja los datos personales de los ciudadanos y permita controlar cualquier violación de las leyes.
¿Qué medidas se pueden tomar para generar confianza en la IA entre la población?
Para generar confianza en la inteligencia artificial (IA) entre la población es fundamental su uso generalizado. Para ello se pueden tomar las siguientes medidas:
Educación: La educación sobre IA y su impacto a nivel personal y profesional es muy importante para que las personas la usen y confíen en ella.
Evaluación continua de la IA: La inteligencia artificial debe ser evaluada por los usuarios y en caso de identificar fallos, errores, sesgos u otros problemas, estos deben ser solucionados a la brevedad posible para impulsar o mantener la confianza en su uso.
Privacidad: Se deben implementar medidas que garanticen la protección de datos personales de los ciudadanos y dichas medidas deben ser conocidas por todos, de manera de estimular la confianza en el uso de la Inteligencia Artificial.
