Índice de temas
Inversión en ciberseguridad e IA
El paisaje de la ciberseguridad está en constante evolución, y al proyectar nuestra mirada hacia el horizonte de 2024, se siguen vislumbrando los retos y tendencias actuales y que definirán la narrativa digital del futuro inmediato. Este campo dinámico y crucial enfrentará una serie de desafíos, así como se verá moldeado por tendencias emergentes que transformarán la forma en que abordamos la seguridad de nuestros activos más preciados. La función TI y de Ciberseguridad debe estar más enfocada ya en construir nuevos futuros (en plural) que en tratar de predecir un futuro (en singular) y de cierta certidumbre. El paradigma, claramente, ya es otro.
Según análisis recientes de Penteo sobre la inversión TI para el próximo año, la ciberseguridad continúa destacándose como una prioridad clave tanto a nivel de negocio como en el ámbito de TI. Para el año 2024, se proyecta que la ciberseguridad ocupará la segunda posición entre los objetivos estratégicos de las organizaciones. Además, destaca como la categoría en la cual un mayor número de empresas planea aumentar su inversión durante ese periodo.
Inversión en ciberseguridad
Es también notorio que, en aquellas compañías que indican que incrementarán su inversión en ciberseguridad, lo harán, aproximadamente en un +23% respecto al año 2023.
La ciberseguridad se presenta como un terreno propicio para la implementación de la IAG, particularmente de los LLM. La sofisticación en la comprensión del lenguaje plantea implicaciones directas en el ámbito de la ciberseguridad
Por lo tanto, sigue siendo una partida de inversión y de foco en proyectos totalmente significativa para 2024 y para próximos años. Esta inversión en ciberseguridad irá destinada a los siguientes ámbitos:
Y, ya que el principal foco de esta inversión irá destinado a abordar amenazas y vulnerabilidades existentes (ya sean actuales o nuevas) y que sucumbimos también a la tendencia de hablar de IA en este artículo, esta será, a su vez, la gran protagonista en 2024 y con una íntima relación aplicada a la ciberseguridad.
Ya son tendencia ataques dirigidos a sistemas de inteligencia artificial en vez de a las organizaciones. A medida que la IA se convierte en un pilar esencial de las operaciones digitales, la posibilidad de ataques dirigidos a sistemas de IA se está incrementando. Por ello, la manipulación de modelos de aprendizaje automático y la explotación de vulnerabilidades en algoritmos se perfilan como amenazas significativas.
La IA generativa entra en escena
Por otro lado, la gran protagonista está siendo la inteligencia artificial generativa (IAG) que, aunque este mercado se ubica en una posición relativamente modesta en comparación con la inteligencia artificial en su conjunto, se proyecta un crecimiento anual de más del 20%, consolidándola como la categoría de mayor desarrollo dentro de la IA.
La excesiva atención dirigida hacia los LLM en el ámbito de la IAG, a pesar de representar menos del 10% del valor total del mercado, plantea cuestionamientos acerca de la proporcionalidad de esta perspectiva. En este contexto, es esencial explorar la conexión entre este fenómeno y la integración de la IAG en el sector crítico de la ciberseguridad.
La ciberseguridad se presenta como un terreno propicio para la implementación de la IAG, particularmente de los LLM. La sofisticación en la comprensión del lenguaje plantea implicaciones directas en el ámbito de la ciberseguridad. La capacidad de estos modelos para analizar patrones de conversación, identificar amenazas potenciales en tiempo real y generar respuestas contextualmente pertinentes representa un fortalecimiento sustancial de las defensas cibernéticas. La simulación de ataques cibernéticos llevada a cabo por los LLM, con el propósito de evaluar la resiliencia de las infraestructuras de seguridad, constituye un escenario prometedor para anticipar y mitigar amenazas.
“La excesiva atención dirigida hacia los LLM en el ámbito de la IAG, a pesar de representar menos del 10% del valor total del mercado, plantea cuestionamientos acerca de la proporcionalidad de esta perspectiva”
ADRIAN LÓPEZ, PENTEO
Adopción de la IA generativa en ciberseguridad
A pesar de este potencial, la adopción de la IAG en ciberseguridad va a ser gradual y reflexiva. Las implicaciones de seguridad inherentes a este dominio sugieren una cautela justificada y muchas organizaciones en España han optado (más de un 62% según nuestros análisis), de momento, por un enfoque fuertemente conservador y garantista en cuanto a enfoque de ética y privacidad de datos.
Es esencial reconocer que, aunque la IAG influye de manera sustancial en diversas aplicaciones, incluida la ciberseguridad, nos encontramos en las etapas iniciales de comprensión de estas tecnologías. Podríamos decir que la irrupción de estos interfaces LLM viene a ser, por hacer un símil, como el MS-DOS de la época para poder comunicarnos con las máquinas y fue solamente la punta de iceberg de toda la revolución tecnológica que experimentamos. Nos hemos esforzado mucho durante los últimos 40 años por entender a las máquinas, ahora estamos en el momento de que deben ser ellas las que se esfuercen por entendernos a nosotros y acompañarnos a lograr las tareas u objetivos que nos marquemos.
Tras la reflexión filosófica anterior y, por concluir, se identifican 4 grandes beneficios donde la IAG será clave para la ciberseguridad acorde al CCN:
1) Generación de datos sintéticos: La IAG puede crear datos ficticios que simulan tráfico de red o acciones de usuarios, sin tratar información real. Esto es de gran ayuda para entrenar sistemas de detección de intrusos sin invadir y preservando la privacidad del usuario.
2) Simulación de ataques a través de GAN (redes antagónicas generativas): Es posible simular cómo actuaría un atacante, permitiendo a las organizaciones probar la robustez de sus sistemas y realizar mejoras antes de que ocurran incidentes reales.
3) Creación de escenarios realistas de pruebas de penetración: Mejorando las prácticas tradicionales que a menudo se basan en escenarios predefinidos y menos dinámicos.
4) Learnability: Capacidad de aprendizaje como clave de la competitividad tecnológica para los próximos años donde un agente (la red generativa) y un adversario (la red discriminativa) trabajan en conjunto. Esta técnica puede ser utilizada para enseñar a sistemas de ciberseguridad cómo mejorar su detección y respuesta a amenazas en tiempo real.
Desafíos del futuro digital
En el dinámico escenario de la ciberseguridad, donde desafíos y tendencias delinean el futuro digital, es de capital importancia reconocer la evolución constante y las oportunidades que ofrece la IAG. A medida que nos aventuramos hacia el horizonte del 2024, la inversión sostenida en ciberseguridad, respaldada por el auge de la IAG, demuestra su posición predominante en la agenda empresarial. A pesar de la atención concentrada en los LLM, la integración gradual de la IAG en ciberseguridad promete fortalecer nuestras defensas con datos sintéticos, simulaciones avanzadas, escenarios realistas y una capacidad de aprendizaje (learnability) de nuestros sistemas sin precedentes. Si bien nos encontramos en las etapas iniciales de comprensión de estas tecnologías, la IAG se erige como la llave maestra para un futuro cibernético más seguro, donde la colaboración entre agentes y adversarios impulsa la innovación y la resiliencia. En este viaje hacia la próxima era de seguridad digital, la IAG emergerá no solo como una herramienta, sino como un socio estratégico esencial en la protección de nuestros activos más preciados.
