Las marcas de agua invisibles de Anthropic y el dilema del ‘AI slop’
En un esfuerzo por aumentar la transparencia y cumplir con nuevas regulaciones, la empresa de inteligencia artificial Anthropic, creadora del modelo Claude, ha anunciado que incorporará marcas de agua invisibles en los textos generados por sus modelos a partir del 2 de agosto. Esta medida busca que los lectores puedan identificar si un contenido fue escrito por una máquina. Sin embargo, la comunidad científica se muestra escéptica sobre la efectividad real de esta tecnología para frenar la avalancha de contenido generado por IA, conocido coloquialmente como ‘AI slop’.
¿Cómo funcionan las marcas de agua en los textos?
Las marcas de agua en texto se basan en algoritmos que modifican ligeramente la selección de palabras del modelo de IA. Al aplicar esta técnica, se deja un rastro estadísticamente observable en el resultado final. Anthropic asegura que este proceso no altera el significado, la calidad ni la legibilidad de las respuestas de Claude, y que la marca puede persistir incluso después de algunas ediciones. Además, las imágenes generadas por Claude también llevarán una firma digital en sus metadatos.
El contexto regulatorio: la Ley de IA de la Unión Europea
Esta iniciativa no surge en el vacío. Responde a la Ley de Inteligencia Artificial de la Unión Europea, adoptada formalmente en 2024. A partir del 2 de agosto de este año, los proveedores de modelos de IA de frontera deben asegurarse de que sus resultados sean detectables como generados por IA, o enfrentarán multas de hasta 15 millones de euros (aproximadamente 17 millones de dólares) o el 3% de su facturación anual global. Los modelos lanzados después de esa fecha deben cumplir de inmediato, mientras que las versiones ya en el mercado tienen hasta el 2 de diciembre para adaptarse.
Limitaciones y dudas de los expertos
La presencia de una marca de agua no es una prueba concluyente de que el contenido haya sido generado por IA. Por ejemplo, si se usa Claude para resumir o traducir una idea original de un humano, la marca estará presente, pero no indica un uso indebido. Del mismo modo, la ausencia de la marca no garantiza que el texto no haya sido escrito por una IA, ya que los pasajes muy cortos o que han sido parafraseados o reescritos podrían perder la señal.
El problema del ‘AI slop’ en el ámbito académico
El impacto de estas marcas de agua en la integridad académica es incierto. Reese Richardson, metacientífico de la Universidad Northwestern, señala que las marcas de agua pueden eliminarse fácilmente, por ejemplo, simplemente pasando el texto por otro modelo. Por lo tanto, es poco probable que disuadan a personas motivadas que deseen producir artículos falsos o de baja calidad, conocidos como ‘AI slop’.
Sin embargo, Nihar Shah, informático de la Universidad Carnegie Mellon, que estudia la evaluación de la ciencia, ve un potencial en estas herramientas. Si las empresas de IA crean herramientas para verificar la marca de agua, como Anthropic ha prometido, y si tienen una tasa de falsos positivos aceptablemente baja, algunos usos ilegítimos de la IA podrían detectarse. Por ejemplo, los editores de revistas o los organizadores de conferencias podrían aplicar políticas estrictas de ‘no IA’ en las revisiones por pares.
Experiencia en ICML 2026
La Conferencia Internacional sobre Aprendizaje Automático (ICML) de 2026 ya experimentó con una técnica similar. Añadieron marcas de agua a los documentos distribuidos para revisión por pares, lo que generaba texto revelador cuando se usaba IA en los informes de revisión. De esta manera, detectaron a 506 revisores que violaron la política de no usar IA. Shah, quien estuvo detrás de este proceso, comenta: “Esta experiencia sugiere que, si bien algunos usos ilegítimos de la IA pueden hacerse con cuidado para evadir la detección, muchos otros simplemente copian y pegan los resultados de la IA”.
En resumen, las marcas de agua de Anthropic representan un paso hacia la transparencia y el cumplimiento normativo, pero su eficacia a largo plazo para combatir el ‘AI slop’ sigue siendo un tema de debate. La comunidad científica está dividida: mientras algunos ven una herramienta útil para ciertos contextos, otros consideran que es una solución fácil de eludir. Lo que es claro es que la lucha contra el contenido generado por IA de baja calidad apenas comienza.
