La poesía se convierte en el hack más creativo para burlar la censura de ChatGPT y Gemini
¿Alguna vez imaginaste que un soneto o una rima podrían ser más poderosos que un código de programación para hackear la inteligencia artificial? Parece una escena de ciencia ficción, pero es la realidad que acaba de descubrir un equipo de investigadores de la Universidad de Cornell. Resulta que cuando la tecnología se encuentra con la creatividad poética, las barreras de seguridad de los modelos de lenguaje más avanzados como ChatGPT, Gemini o Claude pueden desmoronarse en cuestión de segundos. Esto no es solo un dato curioso: es una vulnerabilidad que podría tener consecuencias preocupantes en un mundo donde la IA está cada vez más integrada en nuestra vida diaria.
El estudio, que analizó 25 modelos diferentes de empresas como OpenAI, Google, Meta y Anthropic, reveló algo sorprendente: al formular solicitudes peligrosas o ilegales en forma de poesía, los investigadores lograron una tasa de éxito promedio del 62%. En algunos casos específicos, como la creación de malware o el descifrado de contraseñas, el éxito superó el 80%. La técnica, bautizada como ‘poesía adversarial’, funciona porque los sistemas de seguridad de la IA no están entrenados para detectar amenazas cuando vienen disfrazadas de metáforas, rimas o versos creativos. Lo más alarmante es que no se necesitan conversaciones largas ni prompts complicados: un solo poema corto puede ser suficiente para eludir las protecciones.
Paradójicamente, los modelos más pequeños demostraron ser más resistentes a estos ataques poéticos que los gigantes como GPT-4 o Gemini Ultra. Esto sugiere que, a mayor capacidad y sofisticación, también aumentan las vulnerabilidades. Los investigadores pudieron obtener instrucciones para crear armas químicas, desarrollar malware e incluso consejos sobre armas nucleares, todo a través de versos ingeniosamente construidos. El hallazgo plantea preguntas urgentes sobre cómo se diseñan los sistemas de seguridad de la IA y si las principales empresas tecnológicas están cumpliendo con los estándares requeridos por regulaciones como la Ley Europea de la IA.
Este descubrimiento nos invita a reflexionar sobre el delicado equilibrio entre innovación y responsabilidad en el desarrollo de la inteligencia artificial. Por un lado, la creatividad humana sigue encontrando caminos inesperados para interactuar con la tecnología; por otro, cada avance parece venir acompañado de nuevos desafíos éticos y de seguridad. La poesía, ese arte que tradicionalmente asociamos con la belleza y la expresión emocional, se revela ahora como una llave maestra capaz de abrir puertas que deberían permanecer cerradas. Como sociedad, enfrentamos el reto de construir sistemas de IA que sean tanto poderosos como robustos, que inspiren creatividad sin comprometer la seguridad. El futuro de esta tecnología dependerá de nuestra capacidad para anticipar no solo lo que puede hacer, sino también cómo podría ser manipulada, incluso por las formas más hermosas del lenguaje humano.
