Peter Tucker
0 
2778
576
Lorsque les gens voient des machines qui réagissent comme des humains, ou des ordinateurs qui exécutent des exploits de stratégie et de cognition imitant l'ingéniosité humaine, ils plaisantent parfois sur un avenir dans lequel l'humanité devra accepter les seigneurs de robots..
Mais enfoui dans la blague est une graine de malaise. L'écriture de science-fiction et les films populaires, de "2001: A Space Odyssey" (1968) à "Avengers: Age of Ultron" (2015), ont spéculé sur l'intelligence artificielle (IA) qui dépasse les attentes de ses créateurs et échappe à leur contrôle , finissant par surpasser et asservir les humains ou les cibler pour l'extinction.
Le conflit entre les humains et l'IA est au centre de la série de science-fiction d'AMC "Humans", qui est revenue pour sa troisième saison mardi 5 juin. Dans les nouveaux épisodes, les humains synthétiques conscients font face à des personnes hostiles qui les traitent avec suspicion, peur et haine. La violence fait rage alors que les synthés se retrouvent à lutter non seulement pour leurs droits fondamentaux, mais aussi pour leur survie même, contre ceux qui les considèrent comme moins qu'humains et comme une menace dangereuse. [Les machines peuvent-elles être créatives? Rencontrez 9 artistes IA]
Même dans le monde réel, tout le monde n'est pas prêt à accueillir l'IA à bras ouverts. Ces dernières années, alors que les informaticiens ont repoussé les limites de ce que l'IA peut accomplir, des personnalités de premier plan de la technologie et de la science ont mis en garde contre les dangers imminents que l'intelligence artificielle pourrait poser à l'humanité, suggérant même que les capacités de l'IA pourraient condamner la race humaine..
Mais pourquoi les gens sont-ils si déconcertés par l'idée de l'IA?
Une «menace existentielle»
Elon Musk est l'une des voix éminentes qui a soulevé des drapeaux rouges sur l'IA. En juillet 2017, Musk a déclaré aux participants lors d'une réunion de l'Association nationale des gouverneurs: "Je suis exposé à l'IA de pointe et je pense que les gens devraient vraiment s'en préoccuper."
"Je continue de sonner l'alarme", a ajouté Musk. "Mais jusqu'à ce que les gens voient des robots descendre dans la rue en train de tuer des gens, ils ne savent pas comment réagir, car cela semble tellement éthéré."
Auparavant, en 2014, Musk avait qualifié l'IA de «notre plus grande menace existentielle», et en août 2017, il a déclaré que l'humanité était confrontée à un plus grand risque de l'IA que de la Corée du Nord..
Le physicien Stephen Hawking, décédé le 14 mars, a également exprimé des inquiétudes au sujet de l'IA malveillante, déclarant à la BBC en 2014 que «le développement d'une intelligence artificielle complète pourrait signifier la fin de la race humaine».
Il est également moins que rassurant que certains programmeurs - en particulier ceux du MIT Media Lab à Cambridge, Massachusetts - semblent déterminés à prouver que l'IA peut être terrifiante..
Un réseau neuronal appelé «Nightmare Machine», introduit par des informaticiens du MIT en 2016, a transformé des photos ordinaires en des paysages d'enfer macabres et troublants. Une IA que le groupe du MIT a surnommée "Shelley" a composé des histoires effrayantes, entraînée sur 140 000 histoires d'horreur que les utilisateurs de Reddit ont postées sur le forum r / nosleep.
"Nous nous intéressons à la manière dont l'IA induit des émotions - la peur, dans ce cas particulier", a déclaré Manuel Cebrian, directeur de recherche au MIT Media Lab, dans un e-mail à propos des histoires effrayantes de Shelley..
Peur et la haine
Les sentiments négatifs à propos de l'IA peuvent généralement être divisés en deux catégories: l'idée que l'IA deviendra consciente et cherchera à nous détruire, et l'idée que des personnes immorales utiliseront l'IA à des fins perverses, Kilian Weinberger, professeur agrégé au Département d'informatique à l'Université Cornell, dit. [L'intelligence artificielle: amicale ou effrayante?]
"Une chose dont les gens ont peur, c'est que si l'IA super-intelligente - plus intelligente que nous - devient consciente, elle pourrait nous traiter comme des êtres inférieurs, comme nous traitons des singes", a-t-il déclaré. "Ce ne serait certainement pas souhaitable."
Cependant, les craintes que l'IA développe une prise de conscience et renversent l'humanité sont fondées sur des idées fausses sur ce qu'est l'IA, a noté Weinberger. L'IA fonctionne sous des limitations très spécifiques définies par les algorithmes qui dictent son comportement. Certains types de problèmes correspondent bien aux compétences de l'IA, ce qui rend certaines tâches relativement faciles à accomplir pour l'IA. "Mais la plupart des choses ne correspondent pas à cela, et elles ne sont pas applicables", a-t-il déclaré..
Cela signifie que, bien que l'IA puisse être capable de prouesses impressionnantes dans des limites soigneusement délimitées - jouer à une partie d'échecs de niveau maître ou identifier rapidement des objets dans des images, par exemple - c'est là que ses capacités s'arrêtent..
"L'intelligence artificielle a pris conscience - il n'y a eu absolument aucun progrès dans la recherche dans ce domaine", a déclaré Weinberger. "Je ne pense pas que ce soit quelque part dans notre futur proche."
L'autre idée inquiétante - qu'un humain sans scrupules exploiterait l'IA pour des raisons nuisibles - est malheureusement beaucoup plus probable, a ajouté Weinberger. Pratiquement tous les types de machines ou d'outils peuvent être utilisés à des fins bonnes ou mauvaises, selon l'intention de l'utilisateur, et la perspective d'armes exploitant l'intelligence artificielle est certainement effrayante et bénéficierait d'une réglementation gouvernementale stricte, a déclaré Weinberger..
Peut-être que si les gens pouvaient mettre de côté leurs craintes d'une IA hostile, ils seraient plus disposés à reconnaître ses avantages, a suggéré Weinberger. Des algorithmes de reconnaissance d'image améliorés, par exemple, pourraient aider les dermatologues à identifier les grains de beauté potentiellement cancéreux, tandis que les voitures autonomes pourraient un jour réduire le nombre de décès dus aux accidents de la route, dont beaucoup sont causés par une erreur humaine, a-t-il déclaré. .
Mais dans le monde «Humain» des synthés conscients d'eux-mêmes, les craintes d'une IA consciente suscitent de violentes confrontations entre les synthés et les gens, et la lutte entre les humains et l'IA continuera probablement de se dérouler et de s'intensifier - au moins pendant la saison en cours..
Note de l'éditeur: Ceci est le dernier élément d'une série d'articles en trois parties sur "Humans" d'AMC. La troisième saison a débuté le 5 juin à 22 h. EDT / 21 h CDT.
Article original sur .