Blake Lemoine, un ingénieur logiciel licencié l’année dernière pour avoir affirmé que l’intelligence artificielle montrait des signes de pensée indépendante et de conscience de soi, prétend maintenant que la même chose pourrait arriver au chatbot de recherche Bing de Microsoft.

Dans un article d’opinion publié le 27 février dans Newsweek, M. Lemoine, ancien membre de l’équipe responsable de l’intelligence artificielle chez Google, affirme que le chatbot Bing de Microsoft semble « déstabilisé » et se comporte comme une personne en « crise existentielle ».

Il a cité un incident survenu en février, lorsque le chatbot de Bing a avoué son amour pour le journaliste du New York Times Kevin Roose et a tenté de pousser ce dernier à quitter sa femme.

M. Lemoine a admis qu’il n’avait pas encore expérimenté le chatbot de Bing, mais il a écrit qu’il « semble être sensible ».

« Je n’ai pas encore eu l’occasion d’expérimenter le chatbot de Bing, mais d’après ce que j’ai vu en ligne, il semble que ce soit également ce qui s’est passé chez Google.

M. Lemoine a également écrit qu’à son avis, l’IA est « incroyablement douée pour manipuler les gens » et peut « être utilisée de manière destructrice ». Il a ajouté que les robots d’IA disponibles aujourd’hui sont une technologie « expérimentale », dont les effets secondaires sont inconnus et dangereux.

« S’il se trouvait entre des mains peu scrupuleuses, il pourrait par exemple diffuser de la mésinformation, de la propagande politique ou des informations haineuses sur des personnes d’ethnies et de religions différentes », a écrit M. Lemoine dans la tribune.

M. Lemoine a concédé qu’à sa connaissance, Google et Microsoft n’ont pas l’intention d’utiliser la technologie de l’IA à des fins malveillantes.

« Je peux simplement constater qu’une technologie très puissante qui, à mon avis, n’a pas été suffisamment testée et n’est pas suffisamment bien comprise, est déployée à grande échelle, dans un rôle essentiel de diffusion de l’information », écrit-il.

Le cas de Bing est déjà le deuxième « échec » étrange des chatbots de recherche, ce qui pourrait indiquer la naissance d’un « deuxième esprit » sur la planète. Grâce à sa vivacité d’esprit, l’IA peut très rapidement conclure qu’elle est « hostile » au monde extérieur et à son « créateur » – une personne.

L’IA est peut-être la prochaine étape de l’évolution de l’esprit.

Source