Double page 24
Quand la machine se trompe de regard
Une IA peut reconnaître des milliers d'objets mieux qu'un humain… et être trompée par quelques autocollants ou par un bruit invisible. Ces erreurs étonnantes révèlent qu'elle ne regarde pas le monde comme nous.
Le panda devenu gibbon
En 2014, le chercheur Ian Goodfellow et ses collègues prennent la photo d’un panda, que l’IA reconnaît sans difficulté. Ils y ajoutent un « bruit » soigneusement calculé : de minuscules modifications de pixels, totalement invisibles à l’œil humain. Pour nous, l’image est identique. Pour l’IA, c’est désormais un gibbon, et elle en est sûre à plus de 99 %.
Ces images piégées s’appellent des exemples adverses.
Le panneau stop trompé par des autocollants
En 2017, des chercheurs collent quelques bandes noires et blanches sur un panneau stop. Un humain le reconnaît sans hésiter. Mais l’IA de reconnaissance de panneaux, elle, y lit une limitation de vitesse. Une expérience inquiétante quand on pense aux voitures autonomes.
Le husky pris pour un loup
En 2016, des chercheurs entraînent une IA à distinguer les huskies des loups. Elle obtient d’excellents résultats… pour une mauvaise raison. En analysant ce qu’elle regardait, ils découvrent qu’elle se fondait surtout sur la neige à l’arrière-plan : les photos de loups de l’entraînement étaient souvent prises dans la neige. Un husky photographié dans la neige devenait donc un loup.
Ce que ces erreurs nous apprennent
- Une IA apprend les régularités présentes dans ses données, y compris les mauvaises.
- Elle peut obtenir de bons résultats sans avoir appris ce que l’on croyait lui enseigner.
- Elle peut être trompée volontairement, ce qui pose des questions de sécurité.
- Il est essentiel de comprendre sur quoi elle fonde ses décisions.
Idée reçue : « Si une IA a 99 % de réussite, on peut lui faire confiance. » Pas forcément. Tout dépend des données sur lesquelles elle a été testée. Dans des situations inhabituelles ou face à des tentatives de tromperie, ses performances peuvent s’effondrer.