Deloitte y el informe con citas inventadas: la revisión humana no es opcional

Deloitte Australia ha aceptado devolver el último pago de un contrato de 440.000 dólares australianos con el Departamento de Empleo y Relaciones Laborales del Gobierno federal, según informó Associated Press el 7 de octubre. El encargo era una revisión independiente de un sistema automatizado de sanciones en prestaciones sociales.

El informe, publicado en julio, contenía hasta veinte errores detectados por el investigador Chris Rudge, de la Universidad de Sídney: referencias a artículos académicos que no existen y una cita inventada atribuida a una sentencia de un tribunal federal. La versión corregida, publicada a principios de octubre, reconoce ya que en su elaboración se utilizó Azure OpenAI.

No es un problema de herramienta

Es fácil leer el caso como «la IA se equivoca». Pero eso lo sabemos desde el primer día: los modelos de lenguaje pueden generar referencias perfectamente plausibles y completamente falsas. Lo llamativo es otra cosa: que un documento así pasara todos los controles de calidad de una firma de primer nivel y llegara al cliente.

La responsabilidad es la misma que si el error lo hubiera cometido un analista junior. El cliente no contrata una herramienta; contrata a una firma que responde de lo que firma. Lo dijimos aquí a propósito de Air Canada y su chatbot en 2024, y vuelve a aplicarse.

La transparencia, también

El otro aspecto que me parece relevante es que el uso de IA solo se explicitó en la versión corregida. No creo que haya que pedir permiso para usar IA en un trabajo profesional, igual que no se pide para usar un procesador de textos. Pero cuando la herramienta participa de forma sustancial en el contenido de un informe que va a orientar políticas públicas, el cliente tiene derecho a saberlo.

Reglas sencillas para trabajos que se firman

Cualquier organización que entregue informes, propuestas o dictámenes con ayuda de IA puede aplicar algo así:

1. Toda cita, cifra y referencia se verifica en la fuente original. Sin excepciones. Si no se puede comprobar, no se incluye.
2. Una persona con nombre firma la revisión, no solo el documento.
3. Se declara el uso de IA cuando ha contribuido de forma relevante al contenido.
4. Se forma al equipo para reconocer los fallos típicos: referencias inventadas, citas demasiado redondas, datos sin fuente.

La IA puede acelerar mucho el trabajo de análisis. Pero la confianza de un cliente se construye con lo que se comprueba, no con lo que suena bien.