23/08/2017 – 08h30 Lorient (Breizh-Info.com) – Elon Musk, ingénieur, milliardaire et entrepreneur d’origine Sud Africaine, a été le cofondateur de Zip2 et Pay Pal à 24 ans.
Actuellement connu pour être le président de Tesla – constructeur de voitures sportives entièrement électriques et partiellement autonomes – il est également le fondateur, le CEO et le directeur technique de SpaceX – entreprise de vol spatial et de frêt entre la Terre et l’espace – et a créé le centre de recherche à but non lucratif OpenAI à San Francisco, travaillant pour une intelligence artificielle « bénéfique pour l’homme ».
Connu pour son ambition et une intelligence transversale, il l’est moins pour ses prises de position publiques, pourtant intéressantes.
Elon Musk a co-signé une lettre ouverte, consultable sur le site du Future of Life Institut, dont il est membre, et visible ici . Cette tribune a été signée par une centaine de chercheurs et ingénieurs travaillant sur les intelligences artificielles et craignant une application de leurs travaux dans des armes de guerre qui deviendraient alors une menace pour l’Humanité : des robots intelligents tueurs.
Elle vise, sans la nommer, l’armée américaine.
Cette tribune parlera aux générations X et Y, sensibilisées dès leur jeunesse par une littérature et un cinéma qui, selon la lettre publique traduite dans la suite de l’article, risquent de devenir une réalité :
Robots tueurs : peu de temps pour agir
Les armes autonome choisissent et visent des cibles sans intervention humaine. Elles pourraient inclure, par exemple, des quadcopters armés pouvant rechercher et éliminer les personnes répondant à certains critères prédéfinis, mais elles n’incluent pas les missiles de croisière ou les drones pilotés à distance pour lesquels les humains prennent toutes les décisions de ciblage.
Les technologies liées à l’Intelligence Artificielle (IA) ont atteint un point où le déploiement de ces systèmes est – en pratique, sinon juridiquement – réalisable dans les prochaines années, et non les prochaines décennies. Les enjeux sont élevés: les armes autonomes sont décrites comme la troisième révolution dans la guerre après la poudre à canon puis les armes nucléaires.
De nombreux arguments ont été avancés, pour comme contre les armes autonomes : par exemple, le remplacement des soldats humains par les machines est bon car il réduit les pertes pour le propriétaire, mais il est mauvais car il réduit ainsi le seuil pour engager une bataille. La question clé pour l’humanité aujourd’hui, est de savoir s’il faut commencer une course aux armements à l’échelle mondiale ou en empêcher le démarrage. Si un pouvoir militaire majeur développe des armes d’IA, une course d’armement à l’échelle mondiale est pratiquement inévitable et le point final de cette trajectoire technologique devient évident: les armes autonomes deviendront les Kalachnikov de demain.
Contrairement aux armes nucléaires, ils ne nécessitent aucune matière première coûteuse ou difficile à obtenir, de sorte qu’ils deviendront omniprésents car peu coûteux à produire en série pour toute puissance militaire. Ce ne sera qu’une question de temps jusqu’à ce qu’ils apparaissent sur le marché noir, entre les mains de terroristes, de dictateurs qui souhaitent mieux contrôler leur population, de chefs de guerre qui souhaitent perpétrer un nettoyage ethnique, etc.
Les armes autonomes sont idéales pour des tâches telles que des assassinats, la déstabilisation de nations, le joug de populations et la destruction sélective de groupes ethniques particuliers. Nous croyons donc qu’une course aux armements militaires de l’armée ne serait pas bénéfique pour l’humanité. Il existe de nombreuses façons dont les IA peuvent rendre les champs de bataille plus sûrs pour les humains, en particulier les civils, sans créer de nouveaux outils pour tuer des personnes.
De la même façon que la plupart des chimistes et biologistes ne s’intéressent pas à la construction d’armes chimiques ou biologiques, la plupart des chercheurs dans l’IA ne s’intéressent pas à la construction d’armes dotées d’IA, et ne veulent pas que d’autres ne viennent ternir leur champ d’étude en créant un mouvement public anti IA qui limiterait le développement des avantages à venir pour la Société.
En effet, chimistes et biologistes ont largement soutenu les accords internationaux qui ont interdit les armes chimiques et biologiques, tout comme la plupart des physiciens ont appuyé les traités interdisant armes nucléaires spatiales et armes laser aveuglantes.
En résumé, nous croyons que l’IA a, à bien des égards, un grand potentiel au bénéfice de l’Humanité. Démarrer une course aux armements militaires dotés d’IA est une mauvaise idée et devrait être empêché par une interdiction des armes autonomes offensives sans contrôle humain significatif.
Faire de l’Homme une espèce multi-planétaire ou risquer de mourir
Cette tribune fait écho à une intervention d’Elon Musk passée relativement inaperçue courant Juin. Ainsi, présentant le pourquoi des ambitions phénoménales du programme de SpaceX – coloniser la planète Mars grâce à ses lanceurs et navettes réutilisables, la publication est ici – le CEO de SpaceX, désormais appuyé par la NASA, présente la philosophie à la base du programme spatial Martien :
« Je pense qu’il y a véritablement deux chemins fondamentaux. L’Histoire est en train de bifurquer entre deux directions : une est que nous restions sur Terre, et alors nous serons face à un risque d’extinction.
Je n’ai pas de prophétie d’apocalypse immédiate, mais comme l’Histoire le suggère, il y aura une fin à notre monde.
L’alternative est de devenir une civilisation à l’échelle spatiale et une espèce multi planétaire, ce qui j’espère, vous agréera et sera le bon chemin à prendre. »
Voici donc ce qui sous-tend les ambitions de son programme spatial : la probabilité d’une fin funeste de la civilisation humaine, sur Terre.
Elon Musk a donc présenté en ce mois de Juin toute l’étendue de son programme de colonisation de Mars, nonobstant les particularités de cette planète deux fois moins grande que la Terre, ayant perdue son hydrosphère, ses océans et son atmosphère : Mars a perdu une magnétosphère identique à la Terre, qui la protégeait de vents solaires dangereux qui ont détruit son atmosphère.
La clef de son entreprise herculéenne est la réutilisation des éléments de son arsenal de fret spatial (ITS), qui est déjà capable de déposer un satellite géostationnaire en orbite.
Dans sa nouvelle version, le lanceur spatial de SpaceX revient en effet se poser sur sa base de lancement, 20mn après avoir mis en orbite une navette de frêt. SpaceX compte réutiliser 1000 fois le même lanceur. La flotte spatiale, constituée de cargos chargeant 550 tonnes de matériel et ressources ( soit trois fois plus que Saturn V d’Apollo), et de navettes habitées, pourra alors s’élancer à la vitesse de 100 800 km/h vers Mars, une fois la fenêtre de tir favorable – elle ne l’est qu’une fois tous les 26 mois. Une fois sur Mars, les navettes repartiront vers la Terre pour une vingtaine d’aller-retours, et les cargos pour une centaine d’aller-retours.
L’ITS n’est possible que grâce à la réduction des coûts que facilitent les moteurs Raptor en cours de fabrication et plus efficaces encore que les célèbres Falcon 9 : il faut 42 Raptor pour équiper une navette de l’ITS. Les colons pourront installer des infrastructures préparées sur Terre et des potagers, et commencer une terraformation.
Les calculs réalisés par SpaceX offrent donc le marché suivant : la possibilité pour un million de colons d’aller sur Mars, pour un coût individuel de 200 000$, d’ici la fin du siècle.
Les différents projets européens, comme ExoMars mené par l’ESA, la volonté affichée ce printemps par Trump d’envoyer des Américains sur Mars pour 2025, l’appui technique de la NASA à SpaceX, sont des éléments qui rendent l’aventure financière et technologique d’Elon Musk possible.
Une structuration politique
Depuis ses premières prises de position publiques, Elon Musk a toujours regretté d’une part le manque de participation d’une vision scientifique à la décision politique sur Terre, et d’autre part, il fait régulièrement part d’un pessimisme vis à vis de l’Homme, habité par des instincts auto-destructeurs et vulnérable à une technologie à double tranchant.
2017 montre la structuration philosophique et politique d’Elon Musk : ainsi, il n’hésite pas à siéger à l’invitation de Trump dans son proche conseil économique et scientifique, mais se retire quand ce dernier abandonne les Accords de Paris sur le climat ; il affiche sa crainte d’une fin probable pour l’Humanité sur Terre et met en œuvre la plus importante épopée industrielle et technologique de l’histoire pour y échapper ; il subodore l’US Army de développer des IA autonomes et met tout son poids pour contrer ce qu’il pense être un funeste choix.
Le pessimisme terrien d’Elon Musk accompagne un optimisme qui est aussi technologique que politique, celui de son engagement, de son expertise généraliste, de son esprit de pionnier. Son discours ne peut être négligé.
Maelys Lecor
Crédit photo : Flickr (cc)
[cc] Breizh-info.com, 2017, dépêches libres de copie et de diffusion sous réserve de mention et de lien vers la source d’origine
3 réponses à “2017 : le pessimisme d’Elon Musk sur les robots tueurs et l’espèce humaine”
L’interet principal de l’intelligence artificiel est de faire passer des vessies pour des lanternes, avec un argument fatal : c’est l’ordinateur qui le dit.
Une machine, aussi sophistiquée soit elle, reste une machine, totalement dépendante de ses modes de conception et de fabrication, autrement dit de l’homme. Ce n’est qu’un nouvelle extension du génie humain, bon ou mauvais Cette fois ci on va essayer de se fabriquer un dieu, en quelque sorte.
Ce sera nouveau, ce sera sexy, ce sera très compliqué, et ce sera réservé à une toute petite partie de la population en terme de compréhension et d’accès.
On voit bien de qui il s’agit, merci.
La télé en son temps a eu exactement les mêmes attraits.
« C’est vrai puisque çà passe à la télé » ou aussi : « tu as vu, le fils du voisin passe à la télé ». Pour être président, il faut d’abord passer à la télé. Mais désormais, qui croit encore ce qu’il s’y dit ?
Ce sera vrai, puisque c’est l’IA qui le dit. On verra combien de temps le bluff durera cette fois ci.
utiliser le nom de Nikolas TESLA c’est de l’usurpation – lui c’était l »énergie libre
Excellent article, dommage qu’il y ait une faute d’accord dans la première ligne de la traduction de la tribune de Musk and co.