Crean a “Morris II”, malware que ataca sistemas de IA
Tabasco - Un equipo de expertos de la Universidad de Cornell, en Nueva York, ha creado “el primer gusano diseñado para atacar ecosistemas GenAI”. Es un novedoso malware funcional en laboratorio que tiene como objetivo alertar sobre la posibilidad real de crear este tipo de amenazas.
El gusano, denominado Morris II, en referencia al primer gusano de Internet creado por Robert T. Morris en 1988, fue utilizado para demostrar múltiples ataques contra un servicio de correo electrónico capaz de responder mensajes de manera automática con IA generativa.
Los investigadores lograron que el malware se autoreplicara y robara datos de la víctima en pruebas con dos grandes modelos de lenguaje populares: Gemini Pro de Google y GPT-4 de OpenAI.
Para vulnerar la seguridad del sistema de correo electrónico (creado específicamente para la investigación), Morris II utiliza una técnica conocida como Adversarial Self-Replicating Prompt. Se trata un tipo específico de prompt que se incluye en el cuerpo del mensaje o escondido incrustado en una imagen y que engaña a la IA generativa cuando procesa el mensaje. Según explican, este ataque puede infectar otros sistemas y difundir contenido personalizado.
Morris II también es capaz de comprometer una funcionalidad conocida como RAG, una herramienta utilizada por algunas aplicaciones de inteligencia artificial para mejorar las respuestas al extraer información de fuentes externas. En este caso, el gusano logró controlar la base de datos de la aplicación de correo electrónico simulada, por lo que sus respuestas incluyeron datos confidenciales del usuario y, además, fue capaz de replicarse.
Los investigadores mencionar que ya han enviado sus hallazgos a Google y OpenAI, aunque añaden que el gusano se aprovecha de un mal diseño en la arquitectura de ecosistemas de GenAI representada en el programa de correo que ellos mismos crearon, y no en vulnerabilidades de los modelos de lenguaje. Todos los detalles de esta investigación pueden consultarse en este artículo disponible públicamente.
Únete a nuestro canal de Whatsapp y entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.
Con información de: Tabasco Hoy
CD/NR
Notas del día:
May 08, 2024 / 01:05
Este descubrimiento ayudaría a reconocer la probabilidad de desarrollar Alzheimer
May 08, 2024 / 00:10
Esta es la forma correcta de meter la ropa a la lavadora y que salga limpia
May 07, 2024 / 23:41
Espectacular y concurrido Desfile Ganadero en Veracruz
May 07, 2024 / 23:30
Este 10 de mayo se presenta la obra Musical La Huaca, Mi Barrio
May 07, 2024 / 23:20
El Águila pega primero en el Nelson Barrera
May 07, 2024 / 23:12
May 07, 2024 / 23:10
Dante y la contienda por el Senado en Veracruz
May 07, 2024 / 22:38
Asestan autoridades federales duro golpe al "huachicoleo" en Tecolutla
May 07, 2024 / 22:35
OPLE Veracruz y FGE se unen contra delitos electorales
May 07, 2024 / 21:32
Sacaremos de la línea de pobreza a 10 mil pescadores: Javier May
May 07, 2024 / 21:11
Explota transformador junto a la UV Córdoba; evacúan a estudiantes 📹
May 07, 2024 / 20:56