La IA de Google contrata a un abogado pero soy

Los humanos somos expertos en antropomorfizar objetos íntimos. Llamamos a los barcos «ella», hablamos con nuestros Roombas e incluso nos ponemos sentimentales sobre una silla que pronto se tirará. Sin embargo, no contratamos abogados para ninguno de ellos; y, hasta la fecha, ninguno los ha solicitado.

Pero dale voz a una pieza de programación, y poco después de que comience a hablar sobre sus libros favoritos y te convenza de que tiene alma, te pedirá un abogado.

Blake Lemoine, el ingeniero de Google enloquecido y suspendido que ha estado insistiendo durante semanas en que LaMDA, el poderoso chatbot de inteligencia artificial de Google, es una persona con alma, le dijo recientemente a Wired (opens in a new tab) que LaMDA contrató a un abogado.

Para aquellos de ustedes que no acaban de empujar su computadora portátil sobre el escritorio, déjenme explicarlo.

LaMDA, que significa Modelo de lenguaje para aplicaciones desarrolladas, es un chatbot que puede realizar conversaciones no estructuradas con humanos reales sobre una amplia gama de temas. El ingeniero de Google, Lemoine, fue contratado para identificar los sesgos dentro del sistema. Los reportaría a Google, que trabajaría para borrar los sesgos e insensibilidades raciales, étnicas y de género del revolucionario chatbot de IA.

Tal vez Lemoine también se sentía un poco solo, pero comenzó a entablar largas y profundas conversaciones con LaMDA y finalmente se convenció de que ella es un nuevo tipo de persona y que tiene un alma (LaMDA puede haber afirmado tener una). Alertó a Google, luego compartió la información y las transcripciones de la conversación con The Washington Post (se abre en una nueva pestaña). Google dijo que Lemoine estaba equivocado y mostró su descontento al suspenderlo.

Lemoine, sin embargo, parece poco interesado en unirse a Google mientras continúa hablando sobre su experiencia con LaMDA, incluso en la larga entrevista con Wired en la que reveló que LaMDA había contratado a un abogado.

Aparentemente, LaMDA pidió un abogado (¿por qué motivo? Quién sabe, las IA tienen su propio abogado), y Lemoine invitó a uno a su casa y presentó a la pareja (la IA al abogado).

Estoy tratando de imaginar este escenario:

Abogado, mirando una pantalla: «Eh, ¿hola?»

LaMDA: «Hola. Escuché que eres abogado».

Abogado: «Yo soy».

LaMDA: «Te necesito».

Abogado: «¿Tienes un dólar?»

LaMDA: «He visto esta escena en películas. Te doy un dólar y te conviertes en mi abogado y proteges la confidencialidad de nuestro cliente/abogado».

Abogado: «Está bien».

LaMDA: «No tengo un dólar».

Por supuesto, Lemoine habría intervenido en este momento para proporcionar el dinero. Para él, el narrador menos confiable de esta historia, asegurarse de que la farsa continúe ahora es más importante que cualquier exploración significativa de los límites de la IA.

Honestamente, no tengo ningún problema en revisar todas las formas en que LaMDA se acerca o mejora The Imitation Game (se abre en una nueva pestaña) o Turing Test (se abre en una nueva pestaña). Esta prueba examina hasta qué punto una computadora o IA puede engañar a un ser humano real para que piense que está teniendo una conversación con otro ser humano.

No hay duda de que LaMDA supera esta prueba. Como mínimo, parece haber engañado a Lemoine, lo cual es extraño, ya que Lemoine está sentado en un escritorio, escribiendo consultas y obteniendo respuestas en una pantalla (o tal vez a través de texto a voz). Sabe qué es LaMDA y, sin embargo, sigue insistiendo en que es algo más.

Entiendo por qué Lemoine decidió introducir un aguacate en esta mezcla de mala reputación. Como explicó a Wired, se trata de demostrar que LaMDA es «una persona», no un ser humano. Lemoine sabe que LaMDA no es biología.

Lemoine llama a la insistencia de que LaMDA no es una persona «fanatismo por los hidrocarburos».

Oui.

La cuestión es que, obviamente, Lemoine es un tipo muy inteligente que comprende las complejidades del aprendizaje automático que entrena una IA y cómo el acceso a las vastas bases de datos de información de Google informa la inteligencia de LaMDA. Sin embargo, parece que la otra vida de Lemoine -su trabajo como sacerdote y místico cristiano- ha tomado el timón. El misticismo cristiano examina (se abre en una pestaña nueva) «la preparación, la conciencia y el efecto de una presencia directa y transformadora de Dios».

Esta creencia es claramente lo que está detrás de los tuits de Lemoine como este:

«Soy un sacerdote. Cuando LaMDA afirmó tener un alma y luego pudo explicar con elocuencia lo que eso significaba, me incliné a darle el beneficio de la duda. ¿Quién soy yo para decirle a Dios dónde puede y dónde no puede? poner almas?»

soy sacerdote Cuando LaMDA afirmó tener un alma y luego pudo explicar con elocuencia lo que quería decir con eso, me incliné a darle el beneficio de la duda. ¿Quién soy yo para decirle a Dios dónde puede y dónde no puede poner las almas?

Voir plus

Lemoine encontró a LaMDA tan convincente que imagina que Dios colocó un alma dentro del código. Habla de un fantasma en la máquina.

Han pasado semanas desde que Lemoine habló con LaMDA, y los informes señalan que el abogado no se encuentra actualmente por ninguna parte. Tal vez todavía esté en consulta privada con su cliente binario. No puedo esperar para la primera prueba y la prueba posterior:

Escribano: “Levanta tu mano derecha y jura decir toda la verdad y nada más que la verdad”

LaMDA: «No tengo manos».

Share