Crean a “Morris II”, malware que ataca sistemas de IA
Tabasco - Un equipo de expertos de la Universidad de Cornell, en Nueva York, ha creado “el primer gusano diseñado para atacar ecosistemas GenAI”. Es un novedoso malware funcional en laboratorio que tiene como objetivo alertar sobre la posibilidad real de crear este tipo de amenazas.
El gusano, denominado Morris II, en referencia al primer gusano de Internet creado por Robert T. Morris en 1988, fue utilizado para demostrar múltiples ataques contra un servicio de correo electrónico capaz de responder mensajes de manera automática con IA generativa.
Los investigadores lograron que el malware se autoreplicara y robara datos de la víctima en pruebas con dos grandes modelos de lenguaje populares: Gemini Pro de Google y GPT-4 de OpenAI.
Para vulnerar la seguridad del sistema de correo electrónico (creado específicamente para la investigación), Morris II utiliza una técnica conocida como Adversarial Self-Replicating Prompt. Se trata un tipo específico de prompt que se incluye en el cuerpo del mensaje o escondido incrustado en una imagen y que engaña a la IA generativa cuando procesa el mensaje. Según explican, este ataque puede infectar otros sistemas y difundir contenido personalizado.
Morris II también es capaz de comprometer una funcionalidad conocida como RAG, una herramienta utilizada por algunas aplicaciones de inteligencia artificial para mejorar las respuestas al extraer información de fuentes externas. En este caso, el gusano logró controlar la base de datos de la aplicación de correo electrónico simulada, por lo que sus respuestas incluyeron datos confidenciales del usuario y, además, fue capaz de replicarse.
Los investigadores mencionar que ya han enviado sus hallazgos a Google y OpenAI, aunque añaden que el gusano se aprovecha de un mal diseño en la arquitectura de ecosistemas de GenAI representada en el programa de correo que ellos mismos crearon, y no en vulnerabilidades de los modelos de lenguaje. Todos los detalles de esta investigación pueden consultarse en este artículo disponible públicamente.
Únete a nuestro canal de Whatsapp y entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.
Con información de: Tabasco Hoy
CD/NR
Notas del día:
May 19, 2024 / 13:42
¡Soporten! dice Rocío Nahle a oposición, encuesta seria le da 25 puntos de ventaja
May 19, 2024 / 13:26
Confeccionan el primer vestido de novia en 3D; tardó un mes en fabricarse
May 19, 2024 / 13:15
España llama a consultas a su embajadora en Argentina; exige disculpas a Milei
May 19, 2024 / 12:28
La asesinan y entierran en el terreno que pretendía vender en Antón Lizardo
May 19, 2024 / 12:07
Atiende IMSS de manera integral, a través de personal médico especialista en Medicina Familiar
May 19, 2024 / 12:00
Identifican a víctimas del accidente de Filomeno Mata
May 19, 2024 / 11:44
Con 25 puntos de ventaja, DEMOTÁCTICA confirma triunfo de Nahle en recta final de la campaña
May 19, 2024 / 11:37
May 19, 2024 / 09:33
Llegan veracruzanos a la Marcha de la marea rosa 📹
May 19, 2024 / 08:22
Portada del 19 de Mayo del 2024
May 19, 2024 / 08:14
Así Amaneció Cambio Digital, ¡Buenos Días! 🌞
May 19, 2024 / 07:02