El creciente escrutinio sobre la investigación de políticas públicas se está intensificando después de que se descubrieran errores en un informe de Deloitte en una revisión de alto perfil del sistema de salud canadiense.
Índice
¿Cómo surgieron los problemas relacionados con la IA en la revisión del sistema de salud de Terranova y Labrador?
Un análisis de atención médica encargado por el gobierno canadiense a Deloitte, con un costo de casi $1.6 millones, contiene aparentes inexactitudes generadas por IA, según una investigación de The Independent. El documento de 526 páginas, publicado por el gobierno de Terranova y Labrador en mayo, representa uno de los contratos de consultoría más costosos recientes en el sector de salud de la provincia.
El informe fue preparado para el entonces Departamento de Salud y Servicios Comunitarios liderado por los Liberales. Examinó la atención virtual, los incentivos de retención y el impacto de la pandemia de COVID-19 en los trabajadores de la salud, en un momento en que Terranova y Labrador enfrenta serias carencias de enfermeras y médicos. Sin embargo, la revisión posterior de los medios ha planteado preguntas sobre la fiabilidad de la evidencia que sustenta esas recomendaciones.
The Independent, un medio progresista centrado en la provincia más oriental de Canadá, encontró múltiples posibles inexactitudes y anomalías. Además, su investigación sugiere que algunas de las citas de investigación subyacentes pueden haber sido producidas o distorsionadas con la ayuda de herramientas de inteligencia artificial, aunque la narrativa principal no fue escrita por una máquina.
¿Qué tipos de errores en los informes de salud de Canadá descubrieron los investigadores?
Según The Independent, el informe de Deloitte incluyó citas académicas falsas que hacían referencia a trabajos académicos inventados. Esas fuentes ficticias se utilizaron para respaldar análisis de costo-efectividad, un componente crítico en la configuración de las decisiones de gasto en salud. El informe también atribuyó erróneamente a investigadores reales estudios en los que nunca habían trabajado, creando la apariencia de evidencia sólida donde no existía.
Algunas citas fueron más allá, describiendo documentos supuestamente coautorados por investigadores que dijeron que nunca habían colaborado. Dicho esto, la revisión no afirmó que todas las referencias fueran defectuosas. En cambio, la preocupación se centra en un patrón de problemas de citación que podría socavar la confianza en las conclusiones del informe sobre dotación de personal, atención virtual y reforma del sistema.
El informe también citó un artículo supuestamente publicado en el Canadian Journal of Respiratory Therapy. Sin embargo, los investigadores no pudieron localizar el documento en la base de datos de la revista, lo que profundiza los temores de que las herramientas generativas puedan haber inventado fuentes que suenan plausibles pero que no existen.
¿Cómo ha respondido Deloitte a las acusaciones de citas generadas por IA?
En una declaración a Fortune, un portavoz de Deloitte Canadá defendió el contenido del trabajo. «Deloitte Canadá respalda firmemente las recomendaciones presentadas en nuestro informe», dijo el portavoz. «Estamos revisando el informe para hacer un pequeño número de correcciones de citas, las cuales no afectan los hallazgos del informe.»
El portavoz añadió que la inteligencia artificial no produjo el informe escrito en sí. En su lugar, dijeron, la IA fue «utilizada selectivamente para apoyar un pequeño número de citas de investigación». Sin embargo, dado el alcance del estudio de salud y las implicaciones financieras, los críticos argumentan que incluso una dependencia limitada de referencias generadas por máquinas exige una verificación y transparencia mucho más estrictas.
Además, la postura de la empresa de que las correcciones de citas no afectan las conclusiones del informe ha generado críticas. Algunos académicos y responsables de políticas cuestionan cómo se puede corregir una investigación fabricada o mal atribuida sin reevaluar ningún modelo de rentabilidad a largo plazo o proyecciones de la fuerza laboral.
¿Qué dicen los investigadores afectados sobre el proceso de verificación de hechos de la firma consultora?
Gail Tomblin Murphy, profesora adjunta en la Escuela de Enfermería de la Universidad Dalhousie en Nueva Escocia, fue una de las citadas incorrectamente. Ella le dijo a The Independent que Deloitte la había mencionado en un artículo académico que «no existe». Señaló que solo había trabajado con tres de los otros seis autores atribuidos en la cita falsa, no con el grupo completo descrito.
«Parece que si están ideando cosas como esta, podrían estar utilizando bastante la IA para generar trabajo», dijo Tomblin Murphy. Sus comentarios destacan la creciente inquietud en la comunidad académica sobre cómo las herramientas generativas pueden fabricar bibliografías convincentes pero inexactas, especialmente cuando los consultores no verifican rigurosamente cada referencia.
Además, advirtió que los informes que guían la política pública deben estar respaldados por evidencia validada y de alta calidad. Asimismo, Tomblin Murphy enfatizó que los gobiernos y el público pagan sumas significativas por dicho trabajo, por lo que debe ser «preciso, basado en evidencia y útil para avanzar». Su crítica subraya una percepción de falla en la debida diligencia más que un simple error técnico.
¿Cuánto costó el informe encargado por el gobierno y cuáles son las repercusiones políticas?
Según una solicitud de acceso a la información publicada en un blog el pasado miércoles, el gobierno canadiense pagó poco menos de 1.6 millones de dólares por el estudio de Deloitte, emitido en ocho entregas. Hasta el lunes, el informe aún estaba disponible en el sitio web del gobierno de Terranova y Labrador, a pesar de la controversia emergente sobre sus referencias y metodología.
El liderazgo político en la provincia ha cambiado desde que se entregó el informe. Tony Wakeham, líder del Partido Conservador Progresista en Terranova y Labrador, asumió como el nuevo primer ministro de la provincia a finales de octubre. Sin embargo, ni la oficina del primer ministro ni el Departamento de Salud y Servicios Comunitarios respondieron de inmediato a las preguntas de Fortune sobre el informe de mayo, y hasta la fecha no han abordado públicamente las preocupaciones.
Ese silencio deja abiertas preguntas sobre si las recomendaciones del informe seguirán guiando la política de salud. También plantea la posibilidad de un mayor escrutinio por parte de los legisladores provinciales o los organismos de supervisión federales sobre cómo se evalúa la investigación de las firmas consultoras antes de influir en los servicios públicos fundamentales.
¿Cómo se comparan estos errores del informe de Deloitte con el caso de bienestar social australiano?
Las revelaciones canadienses siguen problemas similares en Australia. En julio, Deloitte produjo un informe de $290,000 para ayudar al gobierno australiano a reforzar el cumplimiento de las normas de bienestar social. El estudio de 237 páginas también se basó en tecnología generativa y posteriormente se descubrió que contenía «alucinaciones«, incluyendo referencias a investigaciones académicas inexistentes y una cita fabricada de un fallo de un tribunal federal.
Después de que un investigador señalara los problemas, Deloitte emitió una versión revisada del estudio australiano. El informe actualizado, subido discretamente el mes pasado al sitio web del gobierno, reconoció que la firma había utilizado el sistema de lenguaje generativo Azure OpenAI para ayudar a crear el documento inicial. Esa admisión se produjo solo después de que un escrutinio externo expusiera las citas defectuosas.
En el informe australiano actualizado, Deloitte escribió que «las actualizaciones realizadas de ninguna manera impactan o afectan el contenido sustantivo, los hallazgos y las recomendaciones del informe». Sin embargo, los críticos argumentaron que las fuentes fabricadas inherentemente ponen en duda la integridad de cualquier recomendación basada en evidencia, no solo los detalles cosméticos. Además, este segundo episodio ha intensificado el debate sobre las alucinaciones de la IA de Deloitte y la solidez de la verificación interna de hechos de la firma.
¿Qué consecuencias financieras ha enfrentado Deloitte y qué queda sin resolver para Canadá?
Como parte del caso australiano, la firma miembro local de Deloitte fue requerida para proporcionar al gobierno federal un reembolso parcial por el informe de bienestar defectuoso. Esa sanción financiera indicó que los funcionarios consideraron que las inexactitudes relacionadas con la IA eran lo suficientemente serias como para justificar una compensación.
En contraste, aún no se ha hecho pública ninguna información sobre un posible reembolso o remedio contractual relacionado con el informe de salud de Canadá. Dicho esto, la presión puede aumentar a medida que los responsables políticos, los trabajadores de la salud y los contribuyentes se pregunten si recibieron el valor completo por un estudio que ahora necesita correcciones post-publicación en su base de evidencia.
En términos más generales, ambos episodios destacan los crecientes riesgos cuando los gobiernos dependen de grandes consultorías que utilizan tecnología generativa sin salvaguardias estrictas. También sugieren que las instituciones públicas necesitarán estándares más sólidos para verificar fuentes, especialmente en informes de políticas largos y complejos que pueden moldear servicios críticos durante años.
En resumen, el creciente escrutinio de la revisión de salud canadiense de Deloitte y el estudio de bienestar de Australia subraya la urgente necesidad de evidencia confiable, metodología transparente y supervisión robusta cada vez que la investigación asistida por IA informa las decisiones de políticas públicas.




