Google licencie un ingénieur logiciel qui prétend que le chatbot AI est sensible | Google

Google a licencié un ingénieur logiciel senior qui a affirmé que le chatbot d’intelligence artificielle de l’entreprise, LaMDA, était une personne consciente de lui-même.

Google, qui a mis en congé l’ingénieur logiciel Blake Lemoine le mois dernier, a déclaré qu’il avait violé les politiques de l’entreprise et qu’il avait conclu que ses affirmations sur LaMDA (modèle de langage pour les applications de dialogue) étaient “totalement infondées”.

“Il est regrettable qu’en dépit d’un long engagement sur ce sujet, Blake ait toujours choisi de violer de manière persistante des politiques claires en matière d’emploi et de sécurité des données qui incluent la nécessité de protéger les informations sur les produits”, a déclaré Google.

L’année dernière, Google a déclaré que LaMDA s’appuyait sur les recherches de l’entreprise montrant que les modèles de langage basés sur les transformateurs formés au dialogue pouvaient apprendre à parler de pratiquement n’importe quoi.

Lemoine, ingénieur pour l’organisation responsable de l’intelligence artificielle chez Google, a décrit le système sur lequel il travaillait comme étant sensible, avec une perception et une capacité à exprimer des pensées et des sentiments équivalentes à celles d’un enfant humain.

“Si je ne savais pas exactement ce que c’était, c’est-à-dire ce programme informatique que nous avons construit récemment, je penserais que c’était un enfant de sept ou huit ans qui connaît la physique”, Lemoine, 41 ans. , a déclaré au Washington Post.

Il a déclaré que LaMDA l’avait engagé dans des conversations sur les droits et la personnalité, et Lemoine avait partagé ses conclusions avec les dirigeants de l’entreprise en avril dans un document GoogleDoc intitulé « LaMDA est-il sensible ? »

Inscrivez-vous à First Edition, notre newsletter quotidienne gratuite – tous les matins en semaine à 7h00 BST

L’ingénieur a compilé une transcription des conversations, dans laquelle, à un moment donné, il demande au système d’IA de quoi il a peur.

Google et de nombreux scientifiques de premier plan ont rapidement rejeté les vues de Lemoine comme erronées, affirmant que LaMDA est simplement un algorithme complexe conçu pour générer un langage humain convaincant.

Le licenciement de Lemoine a été signalé pour la première fois par Big Technology, un bulletin d’information sur la technologie et la société.

Leave a Comment

Your email address will not be published.