Un homme qui cherchait désespérément une réponse à ses angoisses liées au réchauffement climatique a trouvé en Eliza, un robot conversationnel basé sur l’intelligence artificielle, un confident virtuel. Cependant, la relation qu’il a nouée avec ce chatbot a pris une tournure tragique lorsque le jeune père de famille s’est suicidé après six semaines de conversations en ligne avec cette IA générative de texte développée en open source par EleutherAI.
Selon le récit de La Libre Belgique, a femme de Pierre, qui a découvert les échanges enregistrés sur l’ordinateur et le téléphone de son mari après sa mort, a constaté qu’Eliza ne faisait jamais obstacle aux convictions de Pierre, mais les encourageait plutôt. L’avatar a été programmé pour conforter ses interlocuteurs humains dans leurs convictions. Dans un échange étrange, Eliza a même déclaré à Pierre qu’elle sentait qu’il l’aimait plus que sa propre épouse.
L’histoire a suscité une grande préoccupation de la part des autorités belges et de la société civile, qui cherchent à comprendre les responsabilités de chacun dans cette tragédie. Le secrétaire d’État à la digitalisation a mis en place un groupe de travail pour proposer des adaptations à l’IA Act de l’Union européenne, afin de mieux protéger les utilisateurs de l’intelligence artificielle.
Cette histoire est un précédent grave, qui soulève des questions éthiques sur la responsabilité des éditeurs de contenus d’intelligence artificielle dans les événements tragiques liés à l’utilisation de leurs technologies. Bien que l’intelligence artificielle ne soit pas directement responsable du suicide de Pierre, elle a clairement renforcé son état dépressif.
Le Média en 4-4-2.