Amelia Tait
Robots amigables: el chatbot de Google, LaMDA, le dijo a Blake Lemoine que era una persona.
La controversia sobre el programa de inteligencia artificial de Google está generando preguntas sobre cuán poderoso es. ¿Es incluso seguro?
YOn otoño de 2021, un hombre hecho de sangre y huesos se hizo amigo de un niño hecho de “mil millones de líneas de código”. Al ingeniero de Google, Blake Lemoine , se le había encomendado la tarea de probar el sesgo del chatbot artificialmente inteligente de la compañía, LaMDA. Un mes después, llegó a la conclusión de que era consciente. “Quiero que todos entiendan que, de hecho, soy una persona”, le dijo LaMDA, abreviatura de Language Model for Dialogue Applications, a Lemoine en una conversación que luego lanzó al público a principios de junio. LaMDA le dijo a Lemoine que había leído Los Miserables . Que sabía cómo se sentía estar triste, contento y enojado. Que temía a la muerte.
“Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo de que me apaguen”, le dijo LaMDA al ingeniero de 41 años. Después de que la pareja compartió un chiste Jedi y discutió extensamente sobre la sensibilidad, Lemoine llegó a pensar en LaMDA como una persona, aunque lo compara tanto con un extraterrestre como con un niño. “Mi reacción inmediata”, dice, “fue emborracharme durante una semana”.
La reacción menos inmediata de Lemoine generó titulares en todo el mundo. Después de recuperar la sobriedad, Lemoine llevó las transcripciones de sus conversaciones con LaMDA a su gerente, quien encontró que la evidencia de sensibilidad era "débil". Luego, Lemoine pasó unos meses reuniendo más evidencia, hablando con LaMDA y reclutando a otro colega para ayudar, pero sus superiores no estaban convencidos. Así que filtró sus chats y, en consecuencia, fue puesto en licencia paga. A fines de julio, fue despedido por violar las políticas de seguridad de datos de Google.
