Una "alucinación" de IA es cuando un modelo de lenguaje genera información que suena convincente y está redactada con total seguridad, pero es falsa: un fallo que no existe, una cita legal inventada, un artículo de una ley que no dice lo que el texto afirma que dice. No es un error exclusivo de una herramienta en particular — es una limitación conocida de cómo funcionan hoy los modelos de lenguaje en general, y afecta a cualquier IA generativa, jurídica o no.
Por qué pasa
Un modelo de lenguaje no "busca" jurisprudencia en una base de datos verificada salvo que esté explícitamente conectado a una: genera texto prediciendo qué palabras son estadísticamente probables a partir de su entrenamiento. Cuando le falta información concreta sobre un caso específico —un número de expediente, un fallo puntual, un artículo exacto— puede completar el vacío con algo que tiene la forma correcta de una cita legal, aunque no corresponda a un texto real. Cuanto más específico y menos común es el dato pedido, mayor es el riesgo de que la respuesta esté inventada.
Checklist antes de presentar cualquier escrito con asistencia de IA
- Toda cita de jurisprudencia: buscala en una fuente primaria (SAIJ, el sitio del tribunal correspondiente, o un buscador de jurisprudencia) antes de citarla en un escrito. Si no la encontrás tal cual la citó la IA, no la uses.
- Todo artículo de ley o número de expediente: confirmá el texto exacto contra el cuerpo normativo vigente, no contra lo que la IA "recuerda" de él.
- Montos, plazos y porcentajes: los índices y escalas cambian (tasas de interés, UMA, RIPTE). Verificá siempre el valor vigente en la fuente oficial, nunca asumas que el valor que dio la IA está actualizado.
- Hechos del caso: una IA solo conoce los hechos que vos le proporcionaste. Cualquier hecho que aparezca en el borrador y no reconozcas haber cargado, revisalo con especial atención — puede ser una inferencia incorrecta.
El rol de la IA en RivoLegal
RivoLegal usa inteligencia artificial para acelerar tareas puntuales — generar borradores de escritos, resumir documentos, organizar información de un expediente — pero no reemplaza el criterio del abogado en ningún caso. La revisión y la decisión profesional siempre corresponden a quien firma el escrito. Cualquier contenido generado con asistencia de IA, en RivoLegal o en cualquier otra herramienta, debe pasar por la misma revisión crítica que un texto redactado desde cero.
Cómo se procesan tus datos cuando usás IA
Para las funciones de asistente y generación de escritos, RivoLegal procesa datos de tus expedientes con proveedores de IA de terceros (Google Gemini y OpenAI), bajo contratos de uso empresarial que prohíben expresamente usar esos datos para entrenar sus modelos. RivoLegal no vende información de expedientes ni de clientes a terceros. El detalle completo está en nuestra política de privacidad.