La adopción de la Inteligencia Artificial por parte de las empresas se ha duplicado en los últimos cinco años, y los CEO afirman hoy que se enfrentan a una presión significativa por parte de inversores, proveedores de fondos y entidades crediticias para acelerar la adopción de la IA generativa, aunque habrá que estar atentos a la seguridad de la IA.
Esto se debe en gran medida a la comprensión de que hemos cruzado un nuevo umbral con respecto a la madurez de la IA, introduciendo un nuevo y más amplio espectro de posibilidades, resultados y beneficios de costes para la sociedad en su conjunto.
Muchas empresas se han reservado la posibilidad de apostar por la IA, ya que ciertas incógnitas de la tecnología erosionan la confianza inherente. Y la seguridad suele ser una de esas incógnitas. ¿Cómo se protegen los modelos de IA? ¿Cómo garantizar la protección de esta tecnología transformadora frente a ciberataques, ya sea en forma de robo, manipulación y filtración de datos o de ataques de evasión, envenenamiento, extracción e inferencia?
Muchas empresas se han reservado la posibilidad de apostar por la IA, ya que incógnitas como la seguridad de la tecnología erosionan la confianza inherente
La carrera mundial para establecer un liderazgo en IA -ya sea entre gobiernos, mercados o sectores empresariales- ha espoleado la presión y la urgencia por responder a esta pregunta.
El reto de proteger los modelos de IA no solo se deriva de la naturaleza dinámica y el volumen de los datos subyacentes, sino también de la ‘superficie de ataque’ ampliada que introducen los modelos de IA: una superficie de ataque que es nueva para todos.
En pocas palabras, para manipular un modelo de IA o sus resultados con objetivos maliciosos, existen muchos puntos de entrada potenciales que los atacantes pueden intentar comprometer, muchos de los cuales aún estamos descubriendo.
Pero este reto no carece de solución. De hecho, estamos experimentando el mayor movimiento de crowdsourcing para asegurar la IA que cualquier tecnología haya instigado jamás.
La Administración Biden-Harris, la ley CISA del Departamento de Seguridad Nacional estadounidense y la Ley de Inteligencia Artificial de la Unión Europea han movilizado a la comunidad de investigadores, desarrolladores y expertos en seguridad para que trabajen de forma colectiva en el impulso de la seguridad, la privacidad y el cumplimiento de las normativas en materia de inteligencia artificial.
Índice de temas
Seguridad de la IA para los negocios
Es importante comprender que la seguridad de la IA es algo más que asegurar la propia IA. En otras palabras, para proteger la IA, no nos limitamos únicamente a los modelos y los datos.
También debemos considerar el stack de aplicaciones empresariales en que se integra una IA como un mecanismo defensivo, ampliando las protecciones para la IA en su seno.
Para proteger la IA, no nos limitamos únicamente a los modelos y los datos, sino también a las aplicaciones y al entorno completo
Ascensio Chazarra, Cybersecurity Services Leader de IBM Consulting SPGI
Del mismo modo, dado que la infraestructura de una organización puede actuar como un vector de amenaza capaz de proporcionar a los adversarios acceso a sus modelos de IA, debemos asegurarnos de que el entorno más amplio está protegido.
Para valorar los distintos mecanismos por los que debemos proteger la IA -los datos, los modelos, las aplicaciones y el proceso completo- debemos tener claro no solo cómo funciona la IA, sino exactamente cómo se despliega en los distintos entornos.
El papel de la higiene de un stack de aplicaciones empresariales
La infraestructura de una organización es la primera capa de defensa contra las amenazas a los modelos de IA. Garantizar que los controles de seguridad y privacidad adecuados estén integrados en la infraestructura de IT más amplia que rodea a la IA es clave.
Esta es un área en la que la industria ya tiene una ventaja significativa: tenemos la experiencia y los conocimientos necesarios para establecer normas óptimas de seguridad, privacidad y cumplimiento en los entornos complejos y distribuidos de hoy en día. Es importante que también reconozcamos esta misión diaria como un elemento facilitador de la IA segura.
Es primordial permitir un acceso seguro a los usuarios, los modelos y los datos
Por ejemplo, es primordial permitir un acceso seguro a los usuarios, los modelos y los datos. Debemos utilizar los controles existentes y ampliar esta práctica para asegurar las vías de acceso a los modelos de IA.
Del mismo modo, la IA aporta una nueva dimensión de visibilidad a las aplicaciones empresariales, lo que garantiza que las capacidades de detección de amenazas y respuesta se extiendan a las aplicaciones de IA.
Las normas de seguridad de la plataforma -como el empleo de métodos de transmisión seguros en toda la cadena de suministro, el establecimiento de estrictos controles de acceso y protecciones de la infraestructura, así como el refuerzo de la higiene y los controles de las máquinas virtuales y los contenedores- son fundamentales para evitar su vulnerabilidad.
Al examinar nuestra estrategia general de seguridad empresarial, deberíamos reflejar esos mismos protocolos, políticas, higiene y normas en el perfil de IA de la organización.
Uso y datos de entrenamiento subyacentes
Aunque los requisitos de gestión del ciclo de vida de la IA todavía no están claros, las organizaciones pueden aprovechar las protecciones existentes para ayudar a asegurar el desarrollo de la IA.
Por ejemplo, la transparencia y la explicabilidad son esenciales para evitar los sesgos, la alucinación y la intoxicación, por lo que quienes adoptan la IA deben establecer protocolos para auditar los flujos de trabajo, los datos de entrenamiento y los resultados para comprobar la precisión y el rendimiento de los modelos.
Además, el origen de los datos y el proceso de preparación deben documentarse en aras de la confianza y la transparencia. Este contexto y claridad pueden ayudar a detectar mejor las anomalías y anormalidades que puedan presentarse en los datos en una fase temprana.
La seguridad debe estar presente en todas las fases de desarrollo y despliegue de la IA, lo que incluye la aplicación de protecciones de la privacidad y medidas de seguridad en las fases de entrenamiento y testeo de los datos.
Dado que los modelos de IA aprenden continuamente de sus datos subyacentes, es importante tener en cuenta ese dinamismo y reconocer los riesgos potenciales en la precisión de los datos, así como incorporar medidas de verificación y validación en todo el ciclo de vida de los datos.
Las técnicas de prevención de pérdida de datos también son esenciales aquí para detectar y prevenir SPI, PII y la fuga de datos regulados a través de prompts y API.
Gobernanza a lo largo del ciclo de vida de la IA
Para garantizar la seguridad de la IA es necesario un enfoque integrado de la creación, el despliegue y la gestión de los proyectos de IA.
Esto implica la creación de IA con gobernanza, transparencia y ética que respalden las exigencias normativas. A medida que las organizaciones exploran la adopción de la IA, deben evaluar las políticas y prácticas de los proveedores de código abierto en relación con sus modelos de IA y conjuntos de datos de entrenamiento, así como el estado de madurez de las plataformas de IA.
Esto también debería tener en cuenta el uso y la retención de datos: saber exactamente cómo, dónde y cuándo se utilizarán los datos, y limitar la vida útil del almacenamiento de datos para reducir los problemas de privacidad y los riesgos de seguridad.
Además, los equipos de adquisiciones deben participar para garantizar la alineación con las actuales políticas y directrices de privacidad, seguridad y cumplimiento de las empresas, que deben servir de base para cualquier política de IA que se formule.
La formación de la IA antes de su despliegue y la gestión de las versiones de forma continua es clave para gestionar la integridad del sistema
Asegurar el ciclo de vida de la IA incluye mejorar los procesos actuales de DevSecOps para incluir el ML, adoptando los procesos mientras se crean integraciones y se despliegan modelos y aplicaciones de IA.
Debe prestarse especial atención a la gestión de los modelos de IA y sus datos de formación: la formación de la IA antes de su despliegue y la gestión de las versiones de forma continua es clave para gestionar la integridad del sistema, al igual que la formación continua. También es importante supervisar los prompts y las personas que acceden a los modelos de IA.
No se trata en absoluto de una guía exhaustiva sobre la seguridad de la IA, pero la intención es corregir los conceptos erróneos sobre la seguridad de la IA. La realidad es que ya disponemos de importantes herramientas, protocolos y estrategias para desplegar la IA de forma segura.
Mejores prácticas para dotar de seguridad a la IA
A medida que aumente la adopción de la IA y evolucionen las innovaciones, también madurarán las directrices de seguridad, como ocurre con todas las tecnologías que se han integrado en el tejido de una empresa a lo largo de los años.
A continuación, compartimos algunas de las mejores prácticas de IBM para ayudar a las organizaciones a prepararse para un despliegue seguro de la IA en sus entornos:
- Aproveche la IA de confianza evaluando las políticas y prácticas de los proveedores.
- Habilitar controles para el acceso seguro a usuarios, modelos y datos.
- Proteger los modelos de IA, los datos y la infraestructura de ataques maliciosos.
- Implantar la protección de la privacidad de los datos en las fases de formación, pruebas y operaciones.
- Llevar a cabo prácticas de modelado de amenazas y codificación segura en el ciclo de vida de desarrollo de la IA.
- Detectar y responder a las amenazas para las aplicaciones y la infraestructura de IA.
- Evalúe y decida la madurez de la IA mediante el marco de IBM AI.
