Deloitte rembourse l’Australie après qu’un rapport rédigé par l’IA a inventé des lois et des références

Un audit sensible confié au automate

Commandé en décembre 2024, ce rapport devait évaluer le cadre de conformité du système de prestations sociales australien. Deloitte y identifiait des défauts structurels et une orientation punitive du système. Pour ce faire, la firme a utilisé le modèle Azure OpenAI GPT-4o – un détail seulement révélé a posteriori.

L’expertise en trompe-l’œil

C’est l’universitaire Chris Rudge qui a éventé la supercherie, relevant des « hallucinations » typiques des IA : un livre imaginaire attribué à une collègue, des rapports académiques inexistants, une citation fabriquée et même une décision de justice fictive. Autant d’inventions qui jettent une lumière crue sur les méthodes de Deloitte.

Correctifs tardifs et remboursement partiel

Une version expurgée a été discrètement publiée un vendredi précédant un long week-end. Les références fantaisistes ont été supprimées, et l’usage de l’IA enfin mentionné. Deloitte a accepté de rembourser la dernière tranche du contrat – sans en préciser le montant – tout en assurant que le « fond du rapport » restait valide.

Une affaire qui fait tache

La sénatrice Deborah O’Neill a fustigé un « problème d’intelligence humaine » et qualifié le remboursement partiel d’« excuse partielle pour un travail médiocre ». Sur les réseaux, l’affaire est perçue comme un cas d’école des risques de l’IA incontrôlée.

Cet épisode souligne les dangers d’une automatisation aveugle dans le conseil public. Il pourrait bien inciter les pouvoirs publics à exiger davantage de transparence – et peut-être un peu plus de compétence humaine.