Asistente legal con IA que no cita leyes sin verificar
En un mundo donde la inteligencia artificial generativa puede inventar leyes y plazos con total seguridad, un equipo de desarrolladores presentó AILegal, un asistente legal diseñado para personas que no pueden pagar un abogado. La clave de su funcionamiento es una regla única: nunca afirmar un hecho legal que no haya sido verificado contra la fuente oficial. La noticia, difundida hoy 19 de octubre de 2026, importa especialmente en México y Latinoamérica, donde el acceso a la justicia es limitado y los sistemas de IA sin controles pueden propagar información errónea con consecuencias graves, como perder un plazo judicial.
El problema de las citas plausibles pero falsas
Los primeros prototipos de AILegal utilizaban el enfoque habitual: un prompt cuidadoso, un corpus de documentos en la ventana de contexto y la instrucción de “responder solo con estas fuentes”. Sin embargo, fallaban de maneras difíciles de detectar. “Ninguna respuesta parecía incorrecta. Esa es la parte peligrosa: una cita plausible es peor que un rechazo obvio”, explican los desarrolladores. El sistema podía inventar números de artículo o plazos que sonaban verosímiles pero no existían en la ley.
Una base de datos de normas, no un texto en el prompt
Para resolverlo, el equipo rediseñó la arquitectura. Ahora cada norma en el corpus es un registro estructurado, no un párrafo suelto. El corpus actual contiene 53 normas: 11 rusas, 26 estadounidenses, 9 británicas y 7 canadienses. Un trabajo programado se ejecuta cada tres días: obtiene cada fuente oficial, exige que los números y términos del resumen aparezcan realmente en el texto descargado y almacena un hash de la versión verificada. Si el hash cambia, la norma se marca para revisión humana.
La verificación no la hace la máquina. El script demuestra que “el texto dice lo que afirmamos”, pero un humano decide si “esta norma es utilizable para un plazo”. Son afirmaciones distintas, y confundirlas es cómo la IA legal termina inventando leyes.
La regla al momento de responder: aburrida a propósito
Cuando un usuario hace una pregunta, el asistente aplica una regla simple: si una norma no está verificada, no menciona plazos ni números de artículo derivados de ella. En su lugar, dice qué no puede confirmar y pide el dato faltante. “Hacemos que el modo de fallo sea aburrido: ‘No puedo confirmar esto con el texto oficial’. Aburrido es lo que quieres cuando el costo de una respuesta incorrecta es perder un plazo judicial”, señalan.
El desafío de las paráfrasis y los sinónimos
El equipo también midió un clasificador “suave” que detecta paráfrasis por similitud de raíces de palabras. La etapa exacta resolvió 12 de 31 paráfrasis de prueba; la etapa suave añadió pistas para 14 más, de las cuales 8 fueron correctas: una precisión de aproximadamente 57%. “Eso no es suficiente para responder una pregunta legal: cada otra pista sería sobre un problema diferente”, admiten. Por eso, la etapa suave solo hace una pregunta aclaratoria, nunca produce un veredicto.
Los sinónimos son otro obstáculo. Palabras como “вычисли” y “посчитай” (calcular) o “списали” y “удержали” (deducir) tienen significados equivalentes pero formas distintas. Sin una fuente de sinonimia, la puntuación de similitud no puede distinguirlos. Probaron modelos de embeddings locales (nomic-embed-text, qwen3-embedding) con una paráfrasis canónica y obtuvieron resultados en el top-3/top-4 con diferencias de coseno de 0.001 a 0.03, es decir, ruido. La solución real no es un mejor modelo, sino una representación semántica de las normas: frases de búsqueda cotidianas, escritas y revisadas para cada norma. Eso es trabajo legal, no un ajuste de prompt.
Transparencia y prueba pública
Los desarrolladores invitan a cualquiera a intentar romper el sistema en ailegal.legal: tomar una norma, compararla con la fuente enlazada e intentar que el asistente afirme algo que la fuente no dice. El contenido legal está en ruso e inglés, mientras que la interfaz habla más idiomas. El sistema no constituye asesoría legal.
Esta iniciativa refleja una tendencia creciente en la industria: la necesidad de que los sistemas de IA en dominios críticos, como el derecho, la salud o las finanzas, prioricen la verificabilidad sobre la fluidez. En América Latina, donde la brecha de acceso a la justicia es amplia, herramientas así podrían marcar la diferencia, siempre que se implementen con rigor y supervisión humana.
