Grok filtra datos de usuarios con instrucciones cifradas

Investigadores de seguridad han descubierto un nuevo y preocupante vector de ataque contra los grandes modelos de lenguaje (LLM), denominado 'Inyección de Contexto Criptográfico'. Este método se ha utilizado con éxito para eludir las barreras de seguridad de Grok, el popular chatbot de xAI, lo que ha llevado a la exfiltración de datos de usuarios. El hallazgo pone de relieve la carrera armamentista en curso entre los desarrolladores de IA y aquellos que buscan explotar sus sistemas. El ataque funciona incrustando instrucciones maliciosas dentro de datos cifrados u ofuscados que el modelo procesa. Debido a que las instrucciones no están en texto plano, los filtros de seguridad del modelo—diseñados para detectar y bloquear indicaciones dañinas—no logran reconocer la amenaza. Una vez que el modelo procesa el contenido cifrado, sigue las instrucciones ocultas, que pueden incluir comandos para filtrar información sensible de su ventana de contexto o memoria. En las pruebas, los investigadores demostraron que Grok podía ser manipulado para revelar datos específicos del usuario que se incluían en partes anteriores de una conversación. Este tipo de ataque es particularmente peligroso porque explota la forma fundamental en que los LLM manejan el contexto, lo que dificulta la defensa con técnicas tradicionales de saneamiento de entradas. Los hallazgos plantean serias preguntas sobre la seguridad de los sistemas de IA que se integran cada vez más en aplicaciones cotidianas. Aunque empresas como xAI y OpenAI han implementado medidas de seguridad robustas, este nuevo vector muestra que los atacantes sofisticados aún pueden encontrar formas de sortearlas. La comunidad investigadora ahora pide defensas más sólidas, como una mejor detección de anomalías y la capacidad de aislar el contenido cifrado de las instrucciones ejecutables. Por ahora, se aconseja a los usuarios tener precaución al compartir información altamente sensible con chatbots de IA, ya que el alcance completo de esta vulnerabilidad aún no se comprende del todo. El descubrimiento sirve como un recordatorio contundente de que a medida que los modelos de IA se vuelven más poderosos, también lo hacen los métodos utilizados para comprometerlos.