🥇 Niveau 3 – Expert

Selon Ada Lovelace, la machine ne peut rien créer par elle-même : elle ne fait que ce qu'on lui ordonne.

Réussir le test ne prouve pas que la machine pense ou comprend : elle peut imiter parfaitement une conversation sans rien comprendre.

C'est notre tendance à prêter des sentiments, des intentions ou une compréhension à une machine qui produit des phrases humaines.

(1 point par hiver)

• Premier hiver, vers 1974-1980 : les limites du Perceptron montrées par Minsky et Papert (1969) et le rapport Lighthill (1973), qui jugeait que l'IA n'avait pas tenu ses promesses ; les financements sont coupés.
• Second hiver, vers 1987-1993 : les systèmes experts se révèlent coûteux, difficiles à mettre à jour et incapables de faire face à l'imprévu ; le marché s'effondre.

Deep Blue n'apprenait pas : il utilisait la force de calcul brute (environ 200 millions de positions par seconde). AlphaGo combine des réseaux de neurones et apprend, notamment en jouant contre lui-même (apprentissage par renforcement).

Generative Pre-trained Transformer. Le Transformer a été inventé par des chercheurs de Google (2017).

AlexNet : environ 15 % d'erreurs ; meilleur concurrent : environ 26 %.

Il reçoit des nombres, multiplie chacun par un poids, additionne le tout, puis applique une règle simple pour décider de sa sortie (par exemple, transmettre si le total est positif, sinon renvoyer zéro).

Perdu dans le brouillard, on sent la pente et on fait un pas dans la direction qui descend le plus, puis on recommence. Le réseau fait pareil : il ajuste ses poids dans la direction qui diminue le plus l'erreur.

« roi − homme + femme ≈ reine » et « Paris − France + Italie ≈ Rome ». Principe : les mots sont représentés par des vecteurs (listes de nombres) appris en lisant des milliards de phrases, car un mot se définit par les mots qui l'entourent.

Un bruit invisible pour l'œil humain suffit à tromper complètement l'IA (sûre à plus de 99 % de voir un gibbon). Cela montre qu'elle ne regarde pas le monde comme nous et qu'elle peut être trompée volontairement (exemples adverses).

1) Le pré-entraînement (prédire le token suivant sur d'immenses quantités de textes) ; 2) l'affinage (fine-tuning) sur des exemples de conversations ; 3) la correction par des humains (RLHF), qui comparent les réponses et choisissent la meilleure.

Trois parmi : les références précises (livres, articles, liens, décisions de justice), les citations exactes, les personnes ou lieux peu connus, les chiffres précis, les faits récents.

Avant de répondre, ils écrivent une longue réflexion : ils décomposent le problème, essaient plusieurs pistes, vérifient et se corrigent, comme un élève qui pose ses calculs au brouillon.

Le contexte, la tâche, le format, le niveau et les contraintes.

Le collectif français Obvious ; vendu chez Christie's en octobre 2018 pour 432 500 dollars (estimé 7 000 à 10 000 dollars).

Son image avait été créée par IA. Il voulait savoir si les concours étaient prêts à faire la différence et lancer le débat.

Trois parmi : des caméras, des radars, un lidar (capteur laser en 3D), une carte très détaillée.

Deux parmi : limiter ses permissions, faire valider les actions importantes par un humain, prévoir des sauvegardes, surveiller son travail.

(1 point par prix)

• Prix Nobel de physique : John Hopfield et Geoffrey Hinton, pour leurs travaux sur les réseaux de neurones artificiels.
• Prix Nobel de chimie : Demis Hassabis et John Jumper (AlphaFold), avec David Baker.

Environ 25 millions de dollars. Lors d'une visioconférence, tous les autres participants (directeur financier et collègues) étaient des deepfakes créés à partir de vidéos publiques.

Le tribunal a donné raison au client : l'entreprise est responsable des informations données sur son site, même par un chatbot, et doit rembourser.

Il avait été entraîné sur dix ans de candidatures majoritairement masculines : il a donc appris à reproduire ce déséquilibre, jusqu'à pénaliser le mot « féminine ».

Trois parmi : Qui l'a publié ? Quand et où ? Qui d'autre en parle ? Quelle émotion provoque-t-elle ? Quels indices de trucage ?

Leurs résultats sont très incertains et ils peuvent accuser à tort. Exemple : certains ont jugé que la Constitution des États-Unis (1787) avait probablement été écrite par une IA.

La démission du gouvernement néerlandais.

Notation sociale : inacceptable (interdit) · tri des CV : risque élevé · chatbot : risque limité (transparence) · filtre anti-spam : risque minimal.

L'entraînement des modèles et leur utilisation quotidienne (l'inférence). Avec la généralisation de l'IA, c'est l'utilisation (inférence) qui pèse le plus.

Pour (un parmi) : ils permettent à tous d'en profiter (chercheurs, petites entreprises, pays moins riches), favorisent la transparence et l'innovation, évitent que quelques géants contrôlent la technologie. Contre : une fois publiés, ils ne peuvent plus être retirés ni contrôlés et pourraient servir à des fins malveillantes.

Les internautes posent une question à deux modèles anonymes et votent pour la meilleure réponse ; les votes de millions d'utilisateurs forment le classement.

(1 point par chercheur)

• Hinton : des IA plus intelligentes que les humains pourraient arriver plus tôt que prévu, et on ne sait pas encore garder le contrôle sur elles.
• LeCun : les IA actuelles sont encore loin de l'intelligence humaine, ces scénarios relèvent plutôt de la science-fiction, et il faut d'abord traiter les problèmes concrets d'aujourd'hui.

Trois parmi : l'esprit critique, la créativité et le goût, les relations humaines, la responsabilité, la capacité à apprendre tout au long de la vie. (DP 61)

---