En 2023, la IA generativa se generalizará y cada vez más personas de todas las regiones, sectores y niveles de antigüedad utilizarán esta tecnología. En el informe de McKinsey "The state of AI in 2023: Generative AI's breakout year", el 79% de los encuestados afirma haber tenido algún contacto con la IA generativa, ya sea en el trabajo o fuera de él, y el 22% afirma utilizarla regularmente en su propio trabajo.
Aunque la adopción y la inversión en IA generativa van en aumento, el informe de McKinsey mostró que muchas organizaciones no están abordando los riesgos potenciales de la IA generativa. Menos de un tercio de los encuestados afirmaron contar con medidas para reducir el uso de tecnologías avanzadas de IA con el fin de mitigar los riesgos de ciberseguridad.
El auge de la IA generativa en la empresa y la ciberseguridad
En 2024, se prevé que la IA generativa desempeñe un papel aún más fundamental en los negocios y la sociedad. Según estudios recientes, la adopción de la IA generativa crecerá exponencialmente, con un aumento previsto del 30 % en su uso en diversos sectores. A medida que estos sistemas inteligentes potenciados por la IA y el aprendizaje automático se arraigan en nuestra vida cotidiana, el panorama de la ciberseguridad se prepara para desafíos e innovaciones.
A continuación, los expertos de Vectra AI han recopilado sus predicciones generativas relacionadas con la IA en relación con la ciberseguridad para 2024, señalando las cosas que todos los equipos de seguridad, CISO y líderes de SOC deberían tener en mente de cara al nuevo año.
IA generativa: una herramienta para la innovación y un reto para la ciberseguridad
Prepararse para el futuro: Estrategias de ciberseguridad en la era de la IA
Oliver Tavakoli, Chief Technology Officer, predice que la IA generativa erosionará la eficacia de la seguridad del correo electrónico. "Además, la utilización de la IA generativa en los ataques de ingeniería social servirá como llamada de atención de que las líneas actuales de defensa de la seguridad son inadecuadas. En consecuencia, espero que las organizaciones se orienten hacia enfoques de seguridad descendentes como Zero Trustmicro-segmentación y mecanismos de detección y respuesta".
Implicaciones políticas: El papel de la IA en las elecciones y la integridad de la información
Sohrob Kazerounian, Distinguished AI Researcher , cree que, de cara a las elecciones de 2024, la IA generativa influirá en la desconfianza y la desinformación electorales. "La amplia disponibilidad de modelos de IA generativa, y su relativa facilidad de uso, tendrán efectos de gran alcance dado que EE.UU. se encuentra actualmente en año electoral. La desinformación a gran escala, con contenidos de calidad (por ejemplo, audio y vídeo falsificados de candidatos, ficción producida en masa que se hace pasar por noticias, etc.) será más fácil que nunca. La incapacidad de confiar en nuestros sentidos podría conducir a la desconfianza y la paranoia, rompiendo aún más las relaciones sociales y políticas entre las personas."
Cambio en las tendencias de la IA: Disminuyen los LLM y aumentan las falsificaciones profundas
Christian Borst, CTO de EMEA, cree que el uso generalizado de los LLM se desvanecerá, pero que las falsificaciones profundas se dispararán. "Muchas organizaciones están explorando formas de utilizar los modelos de grandes lenguajes (LLM) tras la oleada inicial de bombo y platillo de este año. Pero cuando se rasca bajo la superficie, está claro que el factor novedad pronto se evaporará. Los LLM suelen ser bastante difíciles de utilizar, ya que no son capaces de comprender el contexto ni de proporcionar resultados fiables, por lo que su uso práctico está restringido. Por tanto, el año que viene veremos cómo las empresas reducen el uso de los LLM a la espera de que estas herramientas sean más funcionales y fáciles de usar.
"Los actores de amenazas se enfrentarán a los mismos problemas con el uso de LLM, por lo que es probable que no veamos mucha actividad compleja como la IA generadora de código malicioso. Pero podemos esperar que los ciberdelincuentes aprovechen la IA generativa para crear falsificaciones profundas más realistas y sofisticadas. Esto les dará más posibilidades de engañar a los usuarios para que entreguen datos confidenciales o hagan clic en algo malicioso a través de señuelos phishing sonoros o visuales más convincentes."
Panorama normativo: equilibrio entre innovación y control de la IA
Y cuando se trata de IA generativa (y de IA en general), la regulación y la política desempeñarán un papel importante en 2024. Según Hitesh Sheth, CEO Vectra AI , el futuro de la IA dependerá de las decisiones regulatorias. "En 2024, preveo que asistiremos a un progreso monumental en la regulación y la política de la IA. Sobre la base de la orden ejecutiva del presidente Biden sobre inteligencia artificial, los responsables de la toma de decisiones en los organismos gubernamentales evaluarán y pondrán en marcha normativas más concretas para frenar el riesgo de la IA y aprovechar sus beneficios. A medida que la IA siga evolucionando, será importante que estas normativas en desarrollo encuentren un equilibrio entre la defensa de la transparencia y el fomento de la innovación continua que se está produciendo a un ritmo vertiginoso."
Sohrob Kazerounian, Distinguished AI Researcher, está de acuerdo y predice que los dilemas éticos, legales y políticos de la IA impulsarán los litigios. "Las cuestiones éticas, jurídicas y sociopolíticas relacionadas con la IA no harán más que agravarse. Dada la parálisis política general en Estados Unidos, es poco probable que surjan marcos normativos y jurídicos sólidos en torno a la regulación de la IA tan rápido como se necesitan". Las demandas relacionadas con material protegido por derechos de autor que se utiliza para entrenar modelos generativos de IA aumentarán en número."
Conclusiones: Adoptar la IA con precaución y responsabilidad
No cabe duda de que la IA generativa transformará el panorama de la ciberseguridad de forma significativa. Y tiene el potencial de hacer avanzar las herramientas de seguridad, mejorar la inteligencia sobre amenazas y transformar los centros de operaciones de seguridad. Mientras aprovechamos estas oportunidades, caminemos con cautela, armados con conocimientos, resiliencia y el compromiso de ir un paso por delante en la intrincada danza...
La IA generativa presenta una nueva y emocionante oportunidad de utilizar la tecnología para ayudar en la lucha contra los ciberataques, que es la misión fundacional de Vectra AI. Para saber más sobre la IA que hay detrás de Vectra Attack Signal Intelligence, descárgate hoy mismo nuestro último whitepaper.