Double page 49
Quand l'IA se trompe en vrai
Les hallucinations de l'IA ne restent pas toujours sans conséquences. Des avocats, des entreprises et des millions d'internautes en ont fait les frais.
L’avocat et les fausses jurisprudences (2023)
À New York, un avocat défend un passager qui poursuit la compagnie aérienne Avianca. Pour appuyer sa plaidoirie, il cite une demi-douzaine de décisions de justice antérieures. Problème : le juge et les avocats adverses ne parviennent à en retrouver aucune. Elles avaient toutes été inventées par ChatGPT, que l’avocat avait utilisé pour ses recherches. Il avait même demandé à l’IA si ces décisions étaient réelles : elle avait répondu oui. L’avocat et son confrère ont été condamnés à une amende.
Depuis, des centaines d’affaires semblables ont été signalées dans le monde.
De la colle sur la pizza (2024)
En mai 2024, Google déploie aux États-Unis des résumés générés par IA en haut de ses résultats de recherche. Rapidement, les internautes partagent des réponses absurdes. À la question « Comment empêcher le fromage de glisser de la pizza ? », l’IA conseille d’ajouter de la colle dans la sauce. Elle avait puisé l’idée dans un commentaire ironique publié onze ans plus tôt sur un forum. Une autre réponse recommandait de manger « au moins un petit caillou par jour », inspirée d’un article humoristique.
Le chatbot qui engageait la compagnie (2024)
Un client d’Air Canada demande au chatbot de la compagnie s’il peut bénéficier d’un tarif réduit à la suite d’un décès dans sa famille. Le chatbot lui répond, à tort, qu’il peut demander un remboursement après le voyage. La compagnie refuse ensuite de payer, en affirmant que le chatbot est « responsable de ses propres actes ». Le tribunal rejette cet argument : l’entreprise est responsable des informations données sur son site, et doit rembourser.
Une voiture pour un dollar (2023)
Aux États-Unis, des internautes s’amusent à manipuler le chatbot d’un concessionnaire Chevrolet. L’un d’eux le convainc d’accepter toutes ses demandes et de conclure par « offre juridiquement contraignante ». Il obtient ainsi la promesse d’un SUV neuf… pour 1 dollar. Le concessionnaire n’a évidemment pas honoré l’offre, mais a désactivé son chatbot.
La leçon L’IA peut être un excellent assistant, mais c’est toujours l’humain qui reste responsable de ce qu’il utilise, publie ou signe.