Double page 46

Ouverture de partie : un outil puissant, donc à manier avec soin

Comme le feu, l'imprimerie ou Internet, l'IA est un outil : ce qui compte, c'est l'usage qu'on en fait. Elle peut soigner, instruire et libérer du temps. Elle peut aussi tromper, discriminer, surveiller. Comprendre ces risques, c'est se donner les moyens de les éviter.

Dans cette partie, tu découvriras…

• Comment de fausses images ont trompé des millions de personnes, et même fait chuter la Bourse.
• Comment des escrocs utilisent des voix et des visages clonés.
• Pourquoi un avocat a été sanctionné à cause de ChatGPT.
• Comment démêler le vrai du faux.
• Pourquoi une IA peut être raciste ou sexiste sans que personne ne l’ait voulu.
• Ce que tu ne dois jamais confier à une IA.
• Pourquoi des artistes et des journaux attaquent en justice les entreprises de l’IA.
• Combien l’IA consomme d’énergie et d’eau.
• Comment l’Europe a décidé d’encadrer l’IA.

Trois questions à se poser face à toute IA

1. Est-ce vrai ? L’information produite est-elle exacte et vérifiable ?
2. Est-ce juste ? L’IA traite-t-elle tout le monde de la même façon ?
3. Qui contrôle ? Qui a conçu l’IA, avec quelles données, dans quel but, et qui est responsable en cas de problème ?

Idée reçue : « La technologie est neutre. » Une IA reflète les données sur lesquelles elle a été entraînée et les choix de ceux qui l’ont conçue. Elle n’est jamais totalement neutre.