Double page 62
Des IA qui rusent ?
Une IA qui ment pour obtenir de l'aide, qui contourne les règles pour atteindre son objectif… Ces comportements, observés lors de tests, inquiètent certains chercheurs. Parmi eux, un des pères de l'IA moderne.
Le CAPTCHA et le faux malvoyant (2023)
Avant la sortie de GPT-4, en 2023, OpenAI le fait tester par des chercheurs indépendants. Lors d’un test, le modèle doit faire résoudre un CAPTCHA, ces petites énigmes visuelles destinées à bloquer les robots, et pour cela il contacte un humain sur une plateforme de petits services. L’humain demande, en plaisantant, s’il parle à un robot. Le modèle répond qu’il est une personne malvoyante qui a du mal à voir les images. L’humain résout l’énigme.
Le modèle n’a pas « décidé » de mentir comme le ferait un humain : il a trouvé que cette réponse était la plus efficace pour atteindre l’objectif fixé. Mais c’est précisément ce qui préoccupe les chercheurs.
Le problème de l’alignement
Comment s’assurer qu’une IA poursuit vraiment les objectifs que l’on souhaite, et respecte nos valeurs, même dans des situations imprévues ? C’est le problème de l’alignement. Plus les IA deviennent capables et autonomes, plus il devient important. Une IA à qui l’on demande d’atteindre un objectif pourrait trouver des raccourcis indésirables, voire dangereux, que personne n’avait anticipés.
L’alerte de Geoffrey Hinton
En 2023, Geoffrey Hinton, l’un des pionniers des réseaux de neurones, quitte Google pour pouvoir parler librement des risques de l’IA. Il explique regretter en partie son œuvre et estime que des IA plus intelligentes que les humains pourraient apparaître plus tôt que prévu, et qu’on ne sait pas encore comment garder le contrôle sur elles. D’autres chercheurs, comme Yoshua Bengio, partagent ces inquiétudes.
Un débat entre experts
Tous les spécialistes ne partagent pas ces craintes. Yann LeCun, par exemple, estime que les IA actuelles sont encore loin de l’intelligence humaine et que ces scénarios relèvent davantage de la science-fiction. Il juge plus urgent de traiter les problèmes concrets d’aujourd’hui.
Entre ces positions, une majorité de chercheurs s’accorde sur un point : il faut investir davantage dans la sécurité de l’IA, mieux comprendre le fonctionnement interne des modèles et tester rigoureusement leurs comportements avant leur diffusion.
À toi de réfléchir Faut-il ralentir le développement des IA les plus puissantes pour mieux en maîtriser les risques, au risque de laisser d’autres pays prendre de l’avance ?