entrevistas

Neil Thacker, CISO de Netskope: “Hay que poner especial atención a los sistemas de IA de propósito general”



Dirección copiada

La nueva Ley de IA ha tenido varias reacciones en el mercado, entre ellas Netskope que pide especial atención a los sistemas de IA de propósito general

Publicado el 12 dic 2023



tendencias-de-cibercrimen

El Parlamento Europeo ha anunciado formalmente la adopción de la Ley de la Inteligencia Artificial, marcando un precedente global en la regulación de sistemas de IA. Esta legislación, diseñada para salvaguardar los derechos fundamentales, la democracia, el Estado de Derecho y la sostenibilidad medioambiental, tiene como objetivo también impulsar la innovación y posicionar a Europa como líder en el ámbito de la inteligencia artificial.

“En un momento en el que la Inteligencia Artificial permea cada aspecto de la vida cotidiana, la necesidad de marcos legales se ha vuelto imperativa para regular su aplicación y proteger los datos. Es crucial que esta regulación se base en preceptos legales precisos y transparentes, capaces de evolucionar con las tecnologías emergentes, encontrando así el equilibrio entre fomentar la innovación y respetar principios éticos. La Unión Europea ha liderado la promulgación de esta legislación, siendo la primera de carácter general sobre IA a nivel mundial”.

Neil Thacker, Netskope.
Neil Thacker, Netskope.

“La amplitud de la Ley de Inteligencia Artificial busca brindar orientación y protección en diversos sectores que experimentarán un impacto significativo en los próximos años. Para las empresas no especializadas, es esencial prestar atención a las referencias a los sistemas de IA de propósito general (GPAI). Las nuevas leyes incluyen requisitos de transparencia que abarcan desde la documentación técnica hasta el cumplimiento de las leyes de derechos de autor de la UE. En ausencia de esta información, se insta a las empresas a supervisar el uso de dichos sistemas dentro de su organización. Me complace especialmente que la legislación incluya requisitos explícitos de resúmenes detallados sobre el contenido utilizado en el entrenamiento del sistema”.

“Tomar decisiones informadas es crucial para la implementación de una IA ética y conforme a los requisitos de la nueva ley. Conocer y documentar el uso de aprendizaje automático y sistemas de IA dentro de una organización es una forma efectiva de comprender y anticiparse a las vulnerabilidades de los datos críticos para el negocio, garantizando al mismo tiempo un uso responsable de la IA“.

“La nueva Ley de IA de la UE representa la primera legislación intersectorial y transfronteriza del mundo sobre inteligencia artificial. Va más allá de ser una colaboración entre Estados miembros, ya que enfatiza los principios éticos y de seguridad en el centro de las innovaciones de la IA. Este marco regulatorio refleja el compromiso serio de los gobiernos en abordar las implicaciones éticas y la consiguiente necesidad de regulación en el contexto de rápidos avances tecnológicos”.

Ilona Simpson, CIO de Netskope.
Ilona Simpson, CIO de Netskope.

“Las multas por incumplimiento siguen el modelo bien establecido de aplicación del RGPD, con un límite del 7% de la facturación global, en comparación con el 4% según el RGPD. Esto refuerza la robustez de la ley, asegurando que las posibles infracciones no queden impunes”.

“Lo más destacado de este acuerdo, en mi opinión, es el esfuerzo de los legisladores por equilibrar la regulación y la innovación. Es la primera ley que he visto que promueve activamente la innovación por parte de empresas emergentes y PYME, incluyendo disposiciones explícitas que fomentan el uso de entornos de prueba establecidos por autoridades nacionales y pruebas en tiempo real. Esto garantizará que la UE pueda impulsar avances técnicos sin restringirlos con limitaciones normativas excesivas”.

Artículos relacionados

Artículo 1 de 2