Se investigó el impacto de la inteligencia artificial en el panorama de la ciberseguridad de 2023

Mientras continúa el rápido ritmo del progreso tecnológico y los cambios sociales, el término "Inteligencia Artificial" se ha posicionado firmemente a la vanguardia de la agenda global. Con la creciente prevalencia de los grandes modelos de lenguaje (LLM), el aumento de las preocupaciones sobre la seguridad y la privacidad vincula directamente a la inteligencia artificial con el mundo de la ciberseguridad.

Los investigadores de Kaspersky revelan cómo las herramientas de inteligencia artificial ayudaron a los ciberdelincuentes en sus actividades maliciosas durante 2023, al tiempo que ponen de manifiesto las posibles aplicaciones de esta tecnología en el ámbito de la defensa.

En su último informe, los expertos de Kaspersky revelan el profundo impacto de la inteligencia artificial en el panorama de la ciberseguridad de 2023, y también abordan cómo podrían cambiar las amenazas relacionadas con la inteligencia artificial en el futuro.

El análisis, realizado con un enfoque multifacético, investiga los efectos de la inteligencia artificial, se centra en su uso por parte de expertos en ciberseguridad y autoridades reguladoras, y evalúa cómo podría ser potencialmente explotada por los ciberdelincuentes.

Según la información proporcionada, a medida que los LLM capaces de seguir instrucciones específicas se integren en más productos orientados al consumidor, surgirán vulnerabilidades nuevas y complejas en la intersección de la inteligencia artificial generativa y las tecnologías tradicionales. Esto provocará una expansión de la superficie de ataque que los expertos en ciberseguridad deberán asegurar. Esta situación requiere que los desarrolladores trabajen en nuevas medidas de seguridad, como la aprobación del usuario para las acciones iniciadas por agentes de LLM.

Los miembros de los equipos rojos (red teams) y los investigadores aprovecharán la inteligencia artificial generativa para crear herramientas innovadoras de ciberseguridad, lo que allanará el camino para asistentes basados en LLM o aprendizaje automático (ML). Esta herramienta tiene el potencial de automatizar las tareas de los equipos rojos al ofrecer orientación basada en comandos ejecutados en un entorno de pruebas de penetración (pentesting).

El próximo año, los estafadores fortalecerán sus tácticas mediante el uso de redes neuronales artificiales y aprovecharán las herramientas de inteligencia artificial para crear contenidos falsos más convincentes. Los actores maliciosos, capaces de producir imágenes y vídeos convincentes sin esfuerzo, aumentarán el riesgo de escalar las ciberamenazas relacionadas con el fraude y la falsificación.

A pesar de los desarrollos mencionados anteriormente, los expertos de Kaspersky se muestran escépticos sobre la posibilidad de que la inteligencia artificial cambie significativamente el panorama de amenazas en el futuro cercano. Si bien los ciberdelincuentes adoptan la inteligencia artificial generativa, lo mismo ocurre con los expertos en ciberseguridad, quienes probarán herramientas avanzadas para mejorar la seguridad de los programas y las redes. Esto hace que no sea probable que el panorama de ataques cambie drásticamente.

A medida que la tecnología evoluciona, también surgen regulaciones y normativas acordes a este desarrollo. En este sentido, el número de iniciativas regulatorias relacionadas con la inteligencia artificial también aumentará. Los actores no públicos, como las empresas tecnológicas, pueden proporcionar información muy valiosa para los debates sobre la regulación de la inteligencia artificial tanto en plataformas globales como nacionales, dada su experiencia en el desarrollo y uso de la misma.

MARCADO DE CONTENIDOS GENERADOS POR INTELIGENCIA ARTIFICIAL

Según la información contenida en la declaración, además de más regulaciones para el marcado o la identificación de contenido sintético, también serán necesarias nuevas políticas de proveedores de servicios. Como resultado, los proveedores de servicios seguirán invirtiendo en tecnologías de detección.

Por su parte, los desarrolladores e investigadores contribuirán a los métodos de marca de agua para medios sintéticos con el fin de facilitar su identificación y atribución de origen.

Vladislav Tushkanov, experto en seguridad de Kaspersky, cuyas opiniones fueron incluidas en la declaración, afirmó: "La inteligencia artificial en la ciberseguridad es como un arma de doble filo. Las capacidades adaptativas de la inteligencia artificial pueden fortalecer nuestra defensa al ofrecer un escudo proactivo contra las amenazas emergentes. Sin embargo, el mismo dinamismo puede dar lugar a que los atacantes aprovechen la inteligencia artificial para organizar ataques más sofisticados. Lograr el equilibrio adecuado mediante un uso responsable, sin compartir excesivamente datos confidenciales, es fundamental para asegurar nuestras fronteras digitales".