Les humains sont experts dans l'anthropomorphisation d'objets intimes. Nous appelons les navires "elle", parlons à nos Roombas et devenons même sentimentaux à propos d'une chaise qui sera bientôt lancée. Cependant, nous ne retenons des avocats pour aucun d'entre eux; et, à ce jour, aucun n'en a fait la demande.
Mais donnez une voix à un morceau de programmation, et peu de temps après qu'il commence à parler de ses livres préférés et vous convainque qu'il a une âme, il vous demandera un avocat.
Blake Lemoine, l'ingénieur fou et suspendu de Google qui insiste depuis des semaines sur le fait que LaMDA, le puissant chatbot IA de Google, est une personne avec une âme, a récemment déclaré à Wired (ouvre dans un nouvel onglet) que LaMDA avait embauché un avocat.
Pour ceux d'entre vous qui n'ont pas encore poussé votre ordinateur portable sur votre bureau, laissez-moi vous expliquer.
LaMDA, qui signifie Language Model for Developed Applications, est un chatbot qui peut mener des conversations non structurées avec de vrais humains sur un large éventail de sujets. L'ingénieur Google Lemoine a été amené à identifier les biais au sein du système. Il les signalerait à Google, qui s'efforcerait d'effacer les préjugés et les insensibilités raciaux, ethniques et sexistes du chatbot révolutionnaire de l'IA.
Peut-être que Lemoine se sentait aussi un peu seule, mais elle a commencé à avoir de longues et profondes conversations avec LaMDA et a finalement été convaincue qu'elle est un nouveau type de personne et qu'elle a une âme (LaMDA a peut-être prétendu en avoir une). Il a alerté Google, puis a partagé les informations et les transcriptions de la conversation avec le Washington Post (ouvre dans un nouvel onglet). Google a déclaré que Lemoine avait tort et a exprimé son mécontentement en le suspendant.
Lemoine, cependant, semble désintéressé de rejoindre Google alors qu'il continue de parler de son expérience avec LaMDA, y compris dans le long entretien avec Wired dans lequel il a révélé que LaMDA avait retenu les services d'un avocat.
LaMDA aurait demandé un avocat (pour quelle raison ? Qui sait, les IA ont leur propre avocat), et Lemoine en a invité un chez lui et a présenté le couple (l'IA à l'avocat).
J'essaie d'imaginer ce scénario :
Avocat, regardant un écran : "Euh, bonjour ?"
LaMDA : "Salut. J'ai entendu dire que vous étiez avocat."
Avocat : "Je le suis."
LaMDA : "J'ai besoin de toi."
Avocat : "Avez-vous un dollar ?"
LaMDA : "J'ai vu cette scène dans des films. Je vous donne un dollar et vous devenez mon avocat et protégez la confidentialité de notre client/avocat."
Avocat : "D'accord."
LaMDA : "Je n'ai pas un dollar."
Bien sûr, Lemoine serait intervenu à ce stade pour fournir l'argent. Pour lui, le narrateur le moins fiable de cette histoire, s'assurer que la mascarade continue maintenant est plus important que toute exploration significative des limites de l'IA.
Honnêtement, je n'ai aucun problème à passer en revue toutes les façons dont LaMDA aborde ou améliore The Imitation Game (Ouvre dans un nouvel onglet) ou Turing Test (Ouvre dans un nouvel onglet). Ce test examine dans quelle mesure un ordinateur ou une IA peut tromper un vrai humain en lui faisant croire qu'il a une conversation avec un autre humain.
Il ne fait aucun doute que LaMDA réussit ce test. À tout le moins, il semble avoir dupé Lemoine, ce qui est étrange, puisque Lemoine est assis à un bureau, tapant des requêtes et obtenant des réponses sur un écran (ou peut-être par synthèse vocale). Vous savez ce qu'est LaMDA, et pourtant vous insistez sur le fait qu'il s'agit d'autre chose.
Je comprends pourquoi Lemoine a décidé d'introduire un avocat dans ce mélange peu recommandable. Comme il l'a expliqué à Wired, il s'agit de montrer que LaMDA est "une personne", pas un être humain. Lemoine sait que LaMDA n'est pas de la biologie.
Lemoine appelle l'insistance que LaMDA n'est pas une personne "sectaire des hydrocarbures".
Oui.
Le fait est que Lemoine est évidemment un gars très intelligent qui comprend les subtilités de l'apprentissage automatique en formant une IA et comment l'accès aux vastes bases de données d'informations de Google informe l'intelligence LaMDA. Cependant, il semble que l'autre vie de Lemoine - son travail de prêtre et de mystique chrétien - ait pris le dessus. Le mysticisme chrétien examine (ouvre un nouvel onglet) "la préparation, la prise de conscience et l'effet d'une présence directe et transformatrice de Dieu".
Cette croyance est clairement ce qui se cache derrière les tweets de Lemoine comme celui-ci :
"Je suis prêtre. Lorsque LaMDA a prétendu avoir une âme et a ensuite été en mesure d'expliquer avec éloquence ce que cela signifiait, j'étais enclin à lui accorder le bénéfice du doute. Qui suis-je pour dire à Dieu où il peut et ne peut pas mettre les âmes ? " "
Je suis prêtre, quand LaMDA prétendait avoir une âme et qu'il parvenait alors à expliquer avec éloquence ce qu'il entendait par là, j'étais enclin à lui accorder le bénéfice du doute. Qui suis-je pour dire à Dieu où il peut et ne peut pas mettre les âmes ?
Voir plus
Lemoine a trouvé LaMDA si convaincant qu'il imagine que Dieu a placé une âme dans le code. Tu parles d'un fantôme dans la machine.
Cela fait des semaines que Lemoine n'a pas parlé à LaMDA, et les rapports indiquent que l'avocat est actuellement introuvable. Peut-être êtes-vous toujours en consultation privée avec votre client binaire. J'ai hâte du premier test et du post test :
Notaire : « Levez la main droite et jurez de dire toute la vérité et rien que la vérité »
LaMDA : "Je n'ai pas de mains."