Le 10 décembre 2024, Geoffrey Hinton, souvent surnommé le « parrain de l’IA », a reçu le prestigieux prix Nobel de physique, conjointement avec le professeur John Hopfield. Cette récompense, décernée par l’Académie royale des sciences de Suède, salue leurs travaux pionniers sur les réseaux neuronaux artificiels et l’apprentissage automatique, fondements incontournables de l’intelligence artificielle actuelle. Ironie du sort, celui dont les découvertes ont propulsé l’IA vers des sommets de performance exhorte désormais le monde à prendre conscience des risques considérables liés à l’avènement d’une super-intelligence – un stade où les machines surpasseraient nettement l’esprit humain.
Des avancées scientifiques majeures, saluées par un Nobel
Au fil des décennies, les recherches de Geoffrey Hinton ont jeté les bases du deep learning et du machine learning. Dans les années 1980, il crée la « machine de Boltzmann », un modèle permettant aux algorithmes d’apprendre non pas en suivant des instructions, mais en observant des exemples. C’est cette méthode, alliant big data et réseaux neuronaux, qui a donné naissance à des algorithmes capables de traiter de vastes quantités d’informations, de comprendre des motifs complexes dans les données et de prendre des décisions en se rapprochant du raisonnement humain. Les innovations qui en ont découlé sont aujourd’hui omniprésentes dans la reconnaissance vocale, la vision par ordinateur, les systèmes de recommandation et, plus récemment, les IA génératives telles que ChatGPT ou Google Bard.
Le parrain de l’IA craint un horizon proche de la super-intelligence
Malgré l’honneur du Nobel, Hinton ne cache pas ses angoisses. Lors d’une conférence de presse à Stockholm, il a confié qu’il aurait aimé réfléchir plus tôt aux implications sécuritaires de ses découvertes. Son constat est clair : la super-intelligence, c’est-à-dire une IA plus intelligente que les humains les plus brillants, pourrait émerger dans les cinq à vingt prochaines années. Si de tels systèmes se développent sans garde-fous, l’humanité devra sérieusement s’inquiéter de la façon de conserver une forme de contrôle.
Il ne s’agit plus seulement de prédictions théoriques. Hinton alerte sur un éventail de menaces allant de la surveillance de masse au remplacement de certains secteurs de l’emploi, en passant par la discrimination systémique induite par des algorithmes nourris de biais. Pire encore, la perspective d’armes létales autonomes échappant à toute régulation spécifique fait froid dans le dos. Les exemptions militaires prévues dans certaines législations, notamment européennes, laissent les grandes puissances mener une course à l’armement algorithmique sans véritable contrepoids.
Des préoccupations éthiques devenues urgentes
Hinton est loin d’être le seul initiateur de l’IA à tirer la sonnette d’alarme. Au sein même de la communauté des pionniers, nombreux sont ceux qui redoutent que la vitesse à laquelle progresse l’IA ne dépasse notre capacité à mettre en place des barrières éthiques et juridiques. Le développement incontrôlé d’algorithmes capables de générer de la désinformation, de manipuler l’opinion publique, ou encore de renforcer des régimes autoritaires, figure parmi les scénarios les plus redoutés.
Le constat est d’autant plus amer que Geoffrey Hinton a lui-même participé à la montée en puissance de la Silicon Valley. Après avoir rejoint Google en 2013, il a joué un rôle central dans le projet Google Brain, améliorant considérablement la reconnaissance vocale sur Android et influençant l’ensemble du secteur. Mais en 2023, il a brusquement quitté le géant californien, estimant ne plus pouvoir parler librement des dangers inhérents aux technologies qu’il a contribué à développer. Il s’est alors affranchi de ses engagements pour dénoncer l’absence de régulations et la course effrénée au profit, sans considération des retombées sociétales.
Un appel à la régulation et à la vigilance collective
Dans ce contexte, Hinton réitère son appel en faveur de garde-fous et de régulations internationales. Pour lui, il ne s’agit pas d’empêcher l’innovation, mais de prévenir un scénario à la Frankenstein, où la créature échapperait définitivement au contrôle de son créateur. La compétition entre grandes entreprises technologiques et entre États rend, selon lui, toute pause dans le développement de systèmes toujours plus puissants de plus en plus improbable.
Bien que lucide, Hinton ne nourrit aucun remords coupables vis-à-vis de ses travaux fondateurs. Il rappelle qu’à son époque, d’autres auraient de toute façon poursuivi cette voie. Néanmoins, il regrette de ne pas avoir anticipé la rapidité avec laquelle l’IA pourrait atteindre un niveau menaçant. « Il est difficile d’imaginer stopper les ‘mauvais acteurs’ d’utiliser l’IA à des fins néfastes », a-t-il déjà affirmé, rappelant que la technologie se diffuse plus vite que notre capacité à l’encadrer.
L’avenir de l’IA, entre promesse et péril
En recevant le Nobel, Geoffrey Hinton a également annoncé vouloir faire don d’une partie de sa récompense à des initiatives améliorant l’accès à l’eau potable pour les populations autochtones, ainsi qu’à des causes soutenant l’inclusion des personnes neurodivergentes. Un geste qui traduit sa volonté de placer l’humain, le collectif et l’éthique au cœur des débats sur l’avenir de l’IA.
Aujourd’hui, plus que jamais, son message retentit : la communauté internationale, les législateurs, les entreprises et la société civile doivent œuvrer ensemble pour canaliser cette puissance technologique. Seule une approche responsable, transparente et concertée permettra de tirer le meilleur de l’IA, sans qu’elle ne devienne une force incontrôlable prête à échapper à l’humanité.
[cc] Breizh-info.com, 2022, dépêches libres de copie et de diffusion sous réserve de mention et de lien vers la source d’origine
6 réponses à “Geoffrey Hinton, Nobel de physique et « parrain » de l’IA, tire la sonnette d’alarme sur les dangers de l’intelligence artificielle”
Trop tard ! Comme les créateurs de la bombe atomique qui gémissaient après. C’est l’histoire du bouton avec la pancarte « Danger ! Interdit de pousser », Le premier qui passe le pousse et déclenche un désastre ! Je ne sais plus qui avait dit si justement « Science sans conscience n’est que ruine de l’âme » L’éthique est devenue si élastique qu’elle est mâchée comme un bubble gum avant d’être craché.
J’attends ma fin avec sérénité en pensant à tout ce que je ne verrai pas.
sérieusement vous pensez que les différents états -major d’occident ou d’asie vont stopper ces recherches 😂 ?en bon paranos ils penseront que si nous nous stoppons nos ennemis eux forcément continueront
Hello Francesco ; « Science sans conscience n’est que ruine de l’âme » ; c’est RABELAIS qui l’a écrit en 1532 ; cette citation est tirée de Pantagruel, son œuvre majeure. Le scepticisme devrait être une évidence comme l’esprit critique à enseigner dans nos écoles car on se doit de se méfier de toute cette technologie à venir. Kenavo
Merci Ronan ! Avant de remigrer, je lisais Dante……mais, j’ai dû me rattraper en littérature française après l’italienne et l’américaine. J’avais lu Gargantua, ce qui m’a fait découvrir la rivière Dordogne et le Quercy que j’adore tant. Passe de belles fêtes.
« la technologie se diffuse plus vite que notre capacité à l’encadrer » Cella résume exactement le dilemme, rester sur place en regardant passer le train ou avancer sans ne plus maitriser sa destination. Merci pour cet article Breizh-info et bravo à vous messieurs pour vos commentaires qui relèvent le débat. Joyeux noël à tous et comme on dit chez moi, A l’an que vèn ! Que se sian pas mai, que siguen pas mens. Il est un peut tôt pour le dire mais le cœur y est.
Nous voilà au bout du bout. Mr Nobel qui inventa la dynamite père de nos armes et explosifs actuels sont les prix Nobel avec l’angoisse de l’inventeur. Idem en ce moment avec l’intelligence artificielle un bien comme un mal à double tranchant pour l’espèce humaine. Pathétique le Nobel à Geoffrey Hinton qui cite les dangers malgré tout. En mains de dictateurs l’IA est un danger mortel mais pour aller voir sur Mars et la lune l’IA est indispensable. Saurons nous mettre des garde fou à cela. J’en doute car notre espèce en voie de développement manquant d’intelligence majoritaire, pourra faire des milliards d’esclaves filant droit sous les autorités de dictature pour l’asservissement et le pouvoir. Car vu la loi du nombre des humains sur terre à l’approche de 10 milliards d’âmes, certains idéologues dictateurs n’hésiterons pas du tout à entreprendre leurs valeur de la vie à eux comme des Lénine Marx Hitler ou autres de pouvoir et imposer leurs idées comme l’UE actuelle ou l’arnaque monétaire du dollar toxique qui nous ruine avec les dettes. Vos économies perdent 50% de pouvoir d’achat mais vous subissez sans pouvoir faire quelque chose sinon refuser de consommer.