Cuando KPMG lanzó en octubre pasado el informe “Redefining excellence in the age of agentic AI”, el documento se presentaba como una radiografía ambiciosa de cómo las empresas de todo el mundo estaban incorporando herramientas de inteligencia artificial en sus operaciones. Pero sucedió lo que no podía ni debía suceder.
Una parte clave de ese desafiante relato corporativo acaba de desmoronarse: una investigación del grupo GPTZero -un software online para detectar si un texto ha sido generado por inteligencia artificial o escrito por un humano-, verificada luego por el periódico británico Financial Times, determinó que el reporte contenía múltiples afirmaciones falsas basadas en “alucinaciones” de IA.
El informe de la prestigiosa consultora atribuía a grandes organizaciones —como el banco suizo UBS, el sistema de salud pública del Reino Unido y los operadores de transporte Swiss Federal Railways y Transport for London— el uso avanzado de “AI agents” en funciones críticas, desde asesoría de inversiones hasta gestión de congestión y automatización de derivaciones médicas.
Más allá del informe de GPTZero, las averiguaciones periodísticas confirmaron que ninguna de esas implementaciones existe tal como se describían. Tras ser alertados, las empresas protagonistas de semejantes “hazañas corporativas” salieron a desmentir públicamente el informe, y la firma neerlandesa decidió retirar el documento de parte de sus sitios web mientras investiga qué ocurrió.
Casos “modelo” que nunca ocurrieron
El reporte de KPMG afirmaba que el gestor global de patrimonio UBS “integra agentes de IA en toda la asesoría de inversiones, la gestión de riesgos y el monitoreo de cumplimiento”. Según el texto, “estos agentes operan dentro de una plataforma componible co-desarrollada con Microsoft, lo que permite recorridos financieros personalizados, eficientes y conformes”. Un vocero del banco fue tajante al responder al FT: las aseveraciones eran “factualmente incorrectas”.
El caso de las Swiss Federal Railways (SBB) fue similar. El estudio sostenía que la ferroviaria ofrecía agentes de IA que “ayudan a los usuarios a planificar, reservar y optimizar viajes en función de preferencias, condiciones en tiempo real e impacto de carbono, convirtiendo a SBB en un orquestador de movilidad holístico”. Un portavoz de la empresa confirmó que la descripción “no es precisa”.
Algo equivalente ocurrió con Transport for London (TfL). KPMG aseguraba que la autoridad de transporte de la capital británica utilizaba agentes de IA “para predecir y gestionar la congestión, personalizar actualizaciones a los pasajeros y coordinar el transporte multimodal”. Un representante de TfL calificó la afirmación como “engañosa”.
En el terreno sanitario, el informe afirmaba que NHS Greater Manchester empleaba agentes de IA para predecir reingresos hospitalarios, realizar triaje de pacientes y automatizar derivaciones. Según un portavoz, esa descripción “no se alinea realmente” con el comunicado de prensa que sirvió de base: en realidad, se trataba de una herramienta de IA diseñada para combatir el cáncer de pulmón, sin mención alguna a “agentic AI” ejecutando las tareas que describía KPMG.
La respuesta de KPMG y la alerta de GPTZero
Frente a la polémica, un vocero de KPMG International aseguró que la firma “se toma en serio la exactitud y la integridad de su contenido publicado” y confirmó que el informe fue retirado de sus sitios web mientras se investigan las circunstancias de su publicación.
“Esperamos que toda nuestra gente siga nuestras guías sobre el uso responsable de la IA, incluyendo la supervisión humana para validar contenido y verificar fuentes independientes”, añadió el ejecutivo ante la consulta periodística.
Para Edward Tian, CEO de GPTZero, el impacto de este tipo de errores va mucho más allá de un documento puntual. El ejecutivo advirtió que publicaciones con errores por parte de firmas como KPMG “envenenan el pozo de la información”.
Según la investigación de GPTZero, los hallazgos del informe ya habían sido citados por múltiples publicaciones del sector y por un importante diario checo, amplificando lo que Tian denomina el riesgo de “alucinaciones de segunda mano”: cuando otros actores replican información falsa creyendo que proviene de una fuente confiable.
El episodio se suma a un patrón preocupante. El mes pasado, EY (Ernst & Young) ya había tenido que retractar un estudio por notas al pie falsas y otros errores también identificados por GPTZero. También este año, en abril, el estudio jurídico de élite Sullivan & Cromwell -con sede en New York- admitió que una presentación en un caso de quiebra contenía numerosas inexactitudes generadas por IA, incluyendo interpretaciones erróneas del código de bancarrotas de Estados Unidos.
Consultoras, IA y el negocio de la “confianza”
El contexto agrava el golpe reputacional. Firmas prestigiosas como KPMG y EY se han posicionado en los últimos años como asesores de cabecera para grandes corporaciones interesadas en adoptar IA: venden desde estrategias de transformación digital hasta marcos de uso responsable y políticas para evitar errores.
En paralelo, han producido cientos de piezas de “thought leadership” sobre inteligencia artificial para atraer clientes y reforzar su autoridad en la materia.
“Redefining excellence in the age of agentic AI” formaba parte de ese arsenal comercial que promociona el uso corporativo de la IA: fue distribuido por grupos de consultoría de KPMG en distintos países y contenía contactos de marketing locales.
El hecho de que un documento pensado para reforzar la credibilidad de la firma en IA haya terminado siendo retirado por basarse en casos ficticios es, en sí mismo, una señal fuerte sobre los riesgos de automatizar demasiado la producción de análisis y reportes sin los controles necesarios y responsables de lo que produce la IA cuando se refiere a la “fabulosa performance” de la misma IA.
Para el ecosistema empresario —incluyendo ejecutivos y directorios en América Latina— el caso deja varias lecciones: la necesidad de mantener controles editoriales estrictos incluso cuando se usan herramientas de IA generativa, la importancia de validar ejemplos y casos de uso con fuentes primarias y, sobre todo, el recordatorio de que ninguna marca, por grande que sea, está exenta de erosionar su activo más valioso en consultoría: la confianza.
En un momento en que las grandes consultoras se disputan el rol de “arquitectos” de la adopción de IA en banca, transporte, salud y otros sectores regulados, cada “alucinación” que se cuela en sus propios informes no solo es un error técnico: es un riesgo directo para su licencia social para operar como árbitros de buenas prácticas en una tecnología que, precisamente, exige más rigor y supervisión humana, no menos.
Cabe destacarlo, este artículo se redactó con colaboración de herramientas de IA y, como tal, fue producido, redactado, editado y controlado por periodistas especializados en el uso de una herramienta que no vino a reemplazar a los seres humanos sino más bien a ayudarlos a lograr mejores resultados en su actividad profesional.
Para finalizar, experiencias como las que compartimos en este artículo dejan experiencias y reflexiones de gran valor. Permitir que en esta etapa de desarrollo de la IA, la herramienta reemplace el trabajo de profesionales supone un riesgo reputacional no solo para las personas que la utilizan sino también para las empresas que la implementan.
Fuentes: GPTZero, Financial Times, TechCrunch