Voilà je reprends ici un article d origine en anglais, je vous le publie en français
Une espèce extraterrestre se dirige vers la planète Terre et nous n’avons aucune raison de croire qu’elle sera amicale. Certains experts prédisent qu’il arrivera ici dans 30 ans, tandis que d’autres insistent sur le fait qu’il arrivera bien plus tôt. Personne ne sait à quoi il ressemblera, mais il partagera deux traits clés avec nous, les humains : il sera intelligent et conscient de lui-même .
Non, cet extraterrestre ne viendra pas d’une planète lointaine – il sera né ici même sur Terre, éclos dans un laboratoire de recherche d’une grande université ou d’une grande entreprise. Je fais référence à la première intelligence artificielle générale (IAG) qui atteint (ou dépasse) la cognition au niveau humain .
Au moment où j’écris ces mots, des milliards sont dépensés pour donner vie à cet extraterrestre, car il serait considéré comme l’une des plus grandes réalisations technologiques de l’histoire de l’humanité. Mais contrairement à nos autres inventions, celle-ci aura son propre esprit, littéralement. Et s’il se comporte comme toutes les autres espèces intelligentes que nous connaissons, il fera passer ses propres intérêts en premier, en s’efforçant de maximiser ses chances de survie.
L’IA à notre image
Doit-on craindre une intelligence supérieure mue par ses propres buts, valeurs et intérêts personnels ? Beaucoup de gens rejettent cette question, croyant que nous allons construire des systèmes d’IA à notre image , en veillant à ce qu’ils pensent, ressentent et se comportent comme nous. Il est extrêmement peu probable que ce soit le cas.
Les esprits artificiels ne seront pas créés en écrivant des logiciels avec des règles soigneusement élaborées qui les font penser comme nous. Au lieu de cela, les ingénieurs alimentent des ensembles de données massifs dans des algorithmes simples qui ajustent automatiquement leurs propres paramètres, apportant des millions et des millions de minuscules changements à leur structure jusqu’à ce qu’une intelligence émerge – une intelligence avec des rouages internes qui sont bien trop complexes pour que nous puissions les comprendre.
Et non – lui fournir des données sur les humains ne le fera pas penser comme les humains. C’est une idée fausse courante – la fausse croyance qu’en entraînant une IA sur des données qui décrivent les comportements humains, nous nous assurerons qu’elle finira par penser, ressentir et agir comme nous le faisons. Ça ne sera pas.
Au lieu de cela, nous allons construire ces créatures IA pour connaître les humains , pas pour être humains. Et oui, ils nous connaîtront de fond en comble, capables de parler nos langues et d’interpréter nos gestes, de lire nos expressions faciales et de prédire nos actions. Ils comprendront comment nous prenons des décisions, bonnes et mauvaises, logiques et illogiques. Après tout, nous aurons passé des décennies à enseigner aux systèmes d’IA comment nous, les humains, nous comportons dans presque toutes les situations.
Mais profondément différent
Mais encore, leurs esprits ne seront rien comme les nôtres. Pour nous, ils nous sembleront omniscients, reliés à des capteurs à distance de toutes sortes, en tous lieux. Dans mon livre de 2020, Arrival Mind , je décris l’AGI comme « ayant un milliard d’yeux et d’oreilles », car ses capacités de perception pourraient facilement couvrir le monde entier. Nous, les humains, ne pouvons pas imaginer ce que cela ferait de percevoir notre monde d’une manière aussi vaste et holistique, et pourtant nous présumons d’une manière ou d’une autre qu’un esprit comme celui-ci partagera notre morale, nos valeurs et nos sensibilités. Ça ne sera pas.
Les esprits artificiels seront profondément différents de tous les cerveaux biologiques que nous connaissons sur Terre – de leur structure et fonctionnalité de base à leur physiologie et psychologie globales. Bien sûr, nous créerons des corps ressemblant à des humains pour que ces esprits extraterrestres habitent, mais ils ne seront guère plus que des façades robotiques pour nous sentir à l’aise en leur présence.
En fait, nous, les humains, travaillerons très dur pour que ces extraterrestres nous ressemblent et parlent comme nous, sourient et rient même comme nous, mais au fond de nous, ils ne seront en rien comme nous. Très probablement, leurs cerveaux vivront dans le cloud (entièrement ou partiellement) connectés à des caractéristiques et des fonctions à la fois à l’intérieur et à l’extérieur des formes humanoïdes sous lesquelles nous les personnifions.
Pourtant, la façade fonctionnera – nous n’aurons pas peur de ces extraterrestres – pas comme nous craindrions des créatures se précipitant vers nous dans un mystérieux vaisseau spatial. Nous pouvons même ressentir un sentiment de parenté , les considérant comme notre propre création, une manifestation de notre propre ingéniosité. Mais si nous mettons ces sentiments de côté, nous commençons à réaliser qu’une intelligence extraterrestre née ici est bien plus dangereuse que celles qui pourraient venir de loin.
Le danger intérieur
Après tout, un esprit extraterrestre construit ici saura tout de nous dès son arrivée, ayant été conçu pour comprendre les humains de fond en comble – optimisé pour ressentir nos émotions et anticiper nos actions, prédire nos sentiments, influencer nos croyances et influencer nos opinions. . Si les créatures qui foncent vers nous dans d’élégants vaisseaux spatiaux argentés avaient une connaissance aussi approfondie de nos comportements et de nos tendances, nous serions terrifiés.
L’IA peut déjà vaincre nos meilleurs joueurs dans les jeux les plus difficiles sur Terre. Mais vraiment, ces systèmes ne maîtrisent pas seulement les jeux d’échecs, de poker et de go, ils maîtrisent le jeu des humains , apprenant à prévoir avec précision nos actions et réactions, anticipant nos erreurs et exploitant nos faiblesses. Des chercheurs du monde entier développent déjà des systèmes d’IA pour nous surpasser , nous négocier et nous manœuvrer.
Pouvons-nous faire quelque chose pour nous protéger ?
Nous ne pouvons certainement pas empêcher l’IA de devenir plus puissante, car aucune innovation n’a jamais été contenue. Et tandis que certains s’efforcent de mettre en place des mesures de protection, nous ne pouvons pas supposer que cela suffira à éliminer la menace. En fait, un sondage réalisé par Pew Research indique que peu de professionnels pensent que l’industrie mettra en œuvre des pratiques « éthiques d’IA » significatives d’ici 2030.
Alors, comment pouvons-nous préparer l’arrivée ?
La meilleure première étape consiste à réaliser que l’IAG se produira dans les décennies à venir et qu’il ne s’agira pas d’une version numérique de l’intelligence humaine. Ce sera une intelligence extraterrestre aussi étrangère et dangereuse que si elle venait d’une planète lointaine.
Apporter une urgence à l’éthique de l’intelligence artificielle
Si nous définissons le problème de cette façon, nous pourrions le résoudre de toute urgence, en poussant à réglementer les systèmes d’IA qui surveillent et manipulent le public, détectent nos émotions et anticipent nos comportements. De telles technologies peuvent ne pas sembler être une menace existentielle aujourd’hui, car elles sont principalement développées pour optimiser l’efficacité de la publicité basée sur l’IA , et non pour faciliter la domination mondiale. Mais cela ne diminue pas le danger – les technologies d’IA conçues pour analyser les sentiments humains et influencer nos croyances peuvent facilement être utilisées contre nous comme armes de persuasion massive.
Nous devrions également être plus prudents lors de l’automatisation des décisions humaines. S’il est indéniable que l’IA peut aider à une prise de décision efficace, nous devons toujours tenir les humains au courant . Cela signifie utiliser l’IA pour améliorer l’intelligence humaine plutôt que de travailler pour la remplacer.
Que nous nous préparions ou non, des esprits extraterrestres se dirigent vers nous et ils pourraient facilement devenir nos rivaux, se disputant le même créneau au sommet de la chaîne alimentaire intellectuelle. Et bien qu’il y ait un effort sérieux dans la communauté de l’IA pour faire pression pour des technologies sûres , il y a aussi un manque d’urgence . C’est parce que trop d’entre nous croient à tort qu’une IA sensible créée par l’humanité sera en quelque sorte une branche de l’arbre humain, comme un descendant numérique qui partage un noyau très humain.
C’est un vœu pieux. Il est plus probable qu’un véritable AGI sera profondément différent de nous à presque tous les égards. Oui, il sera remarquablement doué pour prétendre être humain, mais sous une façade conviviale, chacun sera un esprit rival qui pense, ressent et agit comme aucune créature que nous ayons jamais rencontrée sur Terre. C’est maintenant qu’il faut se préparer.
Louis Rosenberg, PhD est un pionnier de la technologie dans les domaines de la réalité virtuelle, de la réalité augmentée et de l’intelligence artificielle. Il est connu pour avoir développé le premier système de réalité augmentée pour l’US Air Force en 1992, pour avoir fondé la première société de réalité virtuelle Immersion Corp (Nasdaq IMMR) en 1993 et fondé la première société AR Outland Research en 2004. Il est actuellement fondateur et PDG d’ Unanimous AI .
Le message Préparez-vous à l’arrivée : un pionnier de la technologie met en garde contre une invasion extraterrestre est apparu en premier sur Venture Beat .
Source : https://dnyuz.com/2022/05/14/prepare-for-arrival-tech-pioneer-warns-of-alien-invasion/
Toujours pour votre information
Sarah (Etincelle)
ondevraitenparler.wordpress.com 