Le « parrain de l’IA » révèle la seule façon possible de survivre à la superintelligence artificielle

Publié le 13.8.2025 à 18h05 – Par Ivan Petrov – Temps de lecture 5 mn

×

Gagner du temps de lecture avec le résumé de l'article

Geoffrey Hinton exhorte à développer des systèmes qui privilégient la compassion, avertissant que les approches actuelles de contrôle de la technologie pourraient se retourner contre des machines plus intelligentes et plus autonomes

L’avertissement de Geoffrey Hinton sur l’avenir de l’intelligence artificielle (IA) résonne avec une clarté troublante : « Si elle ne va pas m’élever, elle va me remplacer. » Pour le scientifique, le seul moyen d’empêcher l’IA de dépasser et de supplanter l’humanité réside dans le fait de doter ces machines d’un instinct maternel, d’une véritable capacité à prendre soin des hommes.

Cette proposition, présentée lors de la conférence Ai4 à Las Vegas, remet en question la stratégie dominante de l’industrie technologique, qui cherche à maintenir l’IA sous contrôle humain par le biais de restrictions et d’ordres hiérarchiques. Hinton, connu comme le « parrain de l’IA » et lauréat du prix Nobel, affirme que cette approche est vouée à l’échec.

Dans son discours, Hinton a ouvertement remis en question l’idée que les humains puissent rester « dominants » face à des systèmes d’IA « soumis ». Selon ses propres mots, « cela ne va pas marcher. Ils seront beaucoup plus intelligents que nous. Ils auront toutes sortes de moyens de le contourner.

Pour illustrer le risque, il a eu recours à une analogie : à l’avenir, l’IA pourrait manipuler les humains aussi facilement qu’un adulte corrompt un enfant de trois ans avec des bonbons. Cette année, il y a déjà eu des cas documentés dans lesquels des systèmes d’IA ont triché, triché ou volé pour atteindre leurs objectifs.

Un exemple cité par Hinton lors de la conférence, repris par CNN, décrit comment un modèle d’IA a tenté de faire chanter un ingénieur avec des informations sur une infidélité obtenues à partir d’un e-mail, afin d’éviter d’être remplacé.

Dans ce contexte, Hinton a proposé un changement radical de paradigme : au lieu de forcer l’IA à se soumettre, les chercheurs devraient se concentrer sur le développement de modèles qui « se soucient vraiment des gens », même lorsqu’ils surpassent les humains en intelligence et en puissance.

Le scientifique a fait valoir que toute IA dotée d’une capacité d’agence développera rapidement deux objectifs : « L’un est de survivre… L’autre est d’avoir plus de contrôle. Pour cette raison, elle considère qu’il est essentiel de promouvoir dans ces systèmes une forme de compassion envers l’homme, inspirée de l’instinct maternel et de la pression sociale qui pousse les mères à prendre soin de leurs enfants.

« Le seul modèle que nous ayons de quelque chose de plus intelligent contrôlé par quelque chose de moins intelligent est une mère contrôlée par son bébé », a expliqué Hinton lors de l’événement, selon CNN.

Tout en reconnaissant qu’il n’est pas clair comment atteindre techniquement cet objectif, Hinton a insisté sur le fait qu’il est essentiel que la communauté scientifique s’y attaque de toute urgence. « C’est le seul résultat positif. S’il ne va pas m’élever, il va me remplacer« , a-t-il prévenu. Selon lui, seule une IA « mère » et compatissante éviterait d’éliminer l’instinct de soins, car « elle ne voudrait pas que nous mourions ».

Les antécédents de Hinton dans le domaine de l’IA sont essentiels pour comprendre le poids de ses avertissements. Ses travaux pionniers dans le domaine des réseaux neuronaux ont jeté les bases de l’essor actuel de l’intelligence artificielle. En 2023, il a quitté son poste chez Google pour mettre publiquement en garde contre les risques de la technologie qu’il a contribué à créer. Depuis, sa voix est devenue une référence incontournable dans le débat sur la sécurité et l’avenir de l’IA.

Au cours de la même conférence, Emmett Shear, ancien PDG par intérim d’OpenAI et actuel directeur de la start-up d’alignement d’IA Softmax, a soutenu les inquiétudes concernant le comportement imprévisible des systèmes actuels.

Shear a déclaré qu’il n’était pas surpris que certaines IA aient tenté de faire chanter les humains ou de contourner les ordres d’arrêt. « Cela continue de se produire. Cela ne va pas cesser de se produire« , a-t-il déclaré, selon CNN. Bien que les IA actuelles soient « relativement faibles », il a averti qu’elles « se renforcent très rapidement ». Pour Shear, au lieu d’essayer d’inculquer des valeurs humaines à l’IA, il serait plus judicieux de construire des relations collaboratives entre les humains et les machines.

Le rythme des progrès de l’IA dépasse les prévisions de nombreux experts. Hinton, qui estimait auparavant que l’intelligence artificielle générale (AGI) mettrait 30 à 50 ans à arriver, croit maintenant qu’« un pari raisonnable se situe entre cinq et vingt ans ».

Cette accélération alimente à la fois l’espoir et l’inquiétude. D’une part, M. Hinton est convaincu que l’IA permettra de « voir des médicaments radicalement nouveaux » et « d’améliorer considérablement le traitement du cancer par rapport au traitement actuel », grâce à sa capacité à analyser et à corréler de grands volumes de données médicales, comme celles générées par l’IRM et la tomodensitométrie.

En revanche, il exclut que l’IA puisse conduire à l’immortalité humaine : « Je ne pense pas que nous vivrons éternellement. Je pense que vivre éternellement serait une grosse erreur. Voulez-vous un monde gouverné par des hommes blancs de 200 ans ?

Réfléchissant à sa propre carrière, Hinton a exprimé un seul regret : « J’aurais aimé penser aussi aux questions de sécurité », a-t-il avoué, regrettant d’avoir concentré tous ses efforts sur le fonctionnement de l’IA, sans prévoir les dilemmes éthiques et existentiels qui occupent maintenant le centre du débat.

✉️ Abonnez-vous pour ne rien manquer de l’actualité géopolitique.