Gyles Lewis
0 
2006
203
C'est Elon Musk à son Elon Musk-iest: selon les reportages, l'entrepreneur de l'espace et de la voiture électrique a rencontré sa petite amie actuelle en faisant une blague sur l'intelligence artificielle perfide.
Musk et la musicienne Grimes, de son vrai nom Claire Boucher, se sont rendus au Met Gala en couple lundi 7 mai. Selon la publication de potins Page Six, les deux se sont rencontrés via Twitter, quand Musk a pensé faire un jeu de mots sur "Rococo's Basilisk", un mélange de l'expérience de pensée "Roko's Basilisk" et du style richement ornemental vu dans la France du 18ème siècle.
Musk a vite appris que Grimes avait fait le même jeu de mots dans un clip vidéo en 2015, et le reste est de l'histoire romantique. Le basilic de Roko, en revanche, est une vision terrifiante de l'avenir et le centre d'un maelström de sous-culture en ligne qui dure depuis des années.
Le début
Le tout a commencé en 2010, lorsqu'une personne passant par Roko a posté une expérience de pensée sur le site LessWrong, un forum où les gens discutent de tout, de la philosophie à l'intelligence artificielle (IA) en passant par les sciences cognitives. Le message a été supprimé, mais RationalWiki en a conservé une copie. L'idée de Roko était que si, à l'avenir, une IA super intelligente conçue pour maximiser le bien commun devait voir le jour, elle pourrait punir tous ceux qui ne contribuaient pas à son existence. [Machines super-intelligentes: 7 futurs robotiques]
"Bien sûr, ce serait injuste, mais c'est le genre de chose injuste qui est tellement utilitaire", a raisonné Roko.
Cette hypothétique aurait lieu après la singularité, le moment où l'intelligence artificielle devient indiscernable de la vie elle-même - en fait, mieux que la vie elle-même, car elle peut faire des choses comme se télécharger indéfiniment, réalisant une sorte d'immortalité silicium. Si ce pouvoir divin découvre que vous n'avez pas aidé à le créer, eh bien, sheesh. Cela pourrait simplement décider que votre juste récompense est un tourment éternel. [Une brève histoire de l'intelligence artificielle]
Le nom "basilic" vient d'une légende médiévale sur un serpent qui pouvait tuer d'un coup d'œil.
Voici le piège, cependant: si vous ne connaissiez pas la possibilité du basilic de Roko, vous êtes au clair - l'IA ne viendra probablement que sur ceux qui ont prédit son existence mais ont choisi de ne pas, par exemple, donner tout leur jetable. revenu pour y contribuer. Rien qu'en lisant sur la possibilité du basilic de Roko, vous vous êtes condamné. (Désolé.)
Cette mise en garde, en un mot, est le point de départ du maelström en ligne. Le fondateur de LessWrong, Eliezer Yudkowsky, a qualifié le message de "STUPIDE" et de "vraiment dangereux". Juste en réfléchissant en détail à la façon dont une IA pourrait vous faire chanter, Roko s'était préparé à subir un chantage, ainsi que la mise en place de tous les autres susceptibles de lire le message..
"J'interdis ce message pour qu'il (a) ne donne pas aux gens d'horribles cauchemars et (b) donne aux superintelligences distantes un motif pour donner suite au chantage contre des gens assez stupides pour y réfléchir suffisamment en détail", a écrit Yudkowsky.
De Roko à la romance
L'interdiction de la discussion de Basilisk de Roko sur LessWrong a duré jusqu'en 2015. Yudkowsky a écrit plus tard sur Reddit qu'il regrettait sa réaction, ce qui donnait l'impression qu'il pensait que Roko avait raison; il croit en fait qu'aucune intelligence artificielle conçue avec les meilleurs intérêts de l'humanité à l'esprit ne finirait par torturer les gens. Au lieu de cela, a-t-il écrit, il a supprimé le message car l'idée n'avait aucun avantage potentiel pour quiconque.
Musk pourrait être particulièrement friand des blagues de Basilisk de Roko parce que le message original le mentionnait. Roko écrit que quelqu'un comme Musk, qui «change à lui seul le visage des industries à fort impact», serait dans les bonnes grâces de l'IA surhumaine théorique. Musk a également parlé des dangers potentiels de l'IA, appelant à une réglementation et avertissant le mois dernier que l'IA pourrait devenir un «dictateur immortel».
"Si l'IA a un objectif et que l'humanité se trouve juste sur le chemin, elle détruira l'humanité naturellement sans même y penser. Pas de rancune", a déclaré Musk dans un documentaire intitulé "Do You Trust This Computer ?, "qui a été publié en avril. "C'est juste comme si nous construisons une route et qu'une fourmilière se trouve sur le chemin. Nous ne détestons pas les fourmis, nous construisons juste une route. Alors, au revoir, fourmilière."
Grimes, pour sa part, est une musicienne et artiste visuelle canadienne qui a inventé le jeu de mots «Rococo Basilisk» pour son clip vidéo «Flesh Without Blood». La vidéo présente un personnage qui porte des perruques de style rococo et des robes volumineuses et finit par être poignardé dans l'intestin et couvert de sang sur un court de tennis..
"Elle est condamnée à être éternellement torturée par une intelligence artificielle, mais elle ressemble aussi un peu à Marie-Antoinette", a déclaré Grimes à FuseTV.
Article original sur .