Por... MARK BERGEN
Una reunión entre comandantes del ejército y ejecutivos de tecnología de EU derivó en el uso de IA en los juegos de guerra y en estrategias para enfrentamientos contra China.
El Departamento de Defensa contrató los servicios de Google para trabajar en un proyecto llamado Maven, que se enfoca en la mejora de drones de vigilancia.
El pacto podría generar millones en ingresos para el gigante de internet de Alphabet.
En julio del año pasado, 13 comandantes del ejército y ejecutivos de tecnología de Estados Unidos se reunieron en el puesto avanzado de Silicon Valley en el Pentágono, a dos millas (cerca de 3 kilómetros) de la sede central de Google.
Fue la segunda reunión de un consejo creado en 2016 para asesorar al ejército sobre formas de aplicar la tecnología al campo de batalla. Milo Medin, vicepresidente de Google, derivó la conversación al uso de inteligencia artificial en los juegos de guerra. Eric Schmidt, exjefe de Google, propuso usar esa táctica para trazar estrategias para enfrentamientos con China dentro de los próximos 20 años.
Unos meses más tarde, el Departamento de Defensa contrató a la división de servicios en la nube de Google para trabajar en el Proyecto Maven, un esfuerzo arrollador para mejorar sus drones de vigilancia con tecnología que ayuda a las máquinas a pensar y ver.
El pacto podría generar millones en ingresos para el gigante de internet de Alphabet. Pero dentro de una compañía cuyos empleados reflejan en gran medida las sensibilidades liberales del Área de la Bahía de San Francisco, el contrato es tan popular como el presidente Donald Trump. Desde 2010, cuando Google se retiró de China después de enfrentarse con los censores del estado, que no se registraba un problema que agitara tanto a sus bases. Casi 4 mil empleados de Google, de un total de 85 mil de Alphabet, firmaron una carta pidiendo al máximo ejecutivo de Google, Sundar Pichai, que cancelara el contrato del Proyecto Maven y detuviera todo el trabajo en "el negocio de la guerra".
La petición cita la historia de Google de evitar el trabajo militar y su famoso eslogan "no hacer el mal". Uno de los laboratorios de investigación de IA de Alphabet incluso se ha distanciado del proyecto. Los empleados que se oponen al acuerdo lo ven como un vínculo inaceptable con una administración de EU a la que muchos se oponen y un inquietante primer paso hacia las máquinas para matar autónomas. Cerca de una docena de empleados están renunciando en protesta por la sostenida participación de la compañía en Maven, informó el lunes Gizmodo.
Las repercusiones internas, que coinciden con una protesta más general sobre cómo Silicon Valley usa los datos y la tecnología, han llevado a Pichai a actuar. Él y sus lugartenientes están redactando principios éticos para guiar el despliegue de la poderosa tecnología de inteligencia artificial de Google, según personas con conocimiento de los planes. Eso dará forma a su trabajo futuro. Google es una de varias compañías que compiten por un contrato de servicios en la nube con el Pentágono por un valor de al menos 10 mil millones. Un portavoz de Google declinó decir si eso ha cambiado a la luz de los conflictos internos por el trabajo militar.
El desafío de Pichai es encontrar una forma de compatibilizar las raíces más conciliadoras de Google con su futuro. Después de haber pasado más de una década desarrollando el arsenal más formidable de investigación y habilidades de IA de la industria, Google desea combinar esos avances con su negocio de computación en la nube de rápido crecimiento. Los rivales se apresuran a cerrar tratos con el gobierno, que gasta miles de millones de dólares al año en todo lo relacionado con la nube. Ninguna entidad del gobierno gasta más en esa tecnología que el ejército. Medin y el director de Alphabet, Schmidt, que forman parte de la Junta de Innovación de Defensa del Pentágono, presionaron a Google para que trabaje con el gobierno en temas de contraterrorismo, ciberseguridad, telecomunicaciones y más.
Para dominar el negocio de la nube y cumplir el sueño de Pichai de convertirse en una "compañía AI-first", a Google le resultará difícil evitar el negocio de la guerra.
Dentro de la compañía no hay un mayor defensor de trabajar con el gobierno que la titular de Google Cloud, Diane Greene. En una entrevista en marzo, defendió la asociación del Pentágono y dijo que es incorrecto caracterizar el Proyecto Maven como un punto de inflexión. "Google ha estado trabajando con el gobierno durante mucho tiempo", dijo.
El Pentágono creó Proyecto Maven hace aproximadamente un año para analizar montones de datos de vigilancia. Greene dijo que su división obtuvo solo una "pequeña parte" del contrato, sin proporcionar detalles. Describió el papel de Google en términos benignos: escanear imágenes de drones para minas terrestres, por ejemplo, y luego señalándolas al personal militar. "El tipo de cosas que salva vidas", dijo Greene. El software no es usado para identificar objetivos o tomar decisiones de ataque, dice Google.
Muchos empleados consideran que sus racionalizaciones no son convincentes. Incluso los miembros del equipo de IA han expresado sus objeciones, diciendo que temen que trabajar con el Pentágono pueda dañar las relaciones con los consumidores y la capacidad de reclutamiento de Google.
"Las armas autónomas letales... (permitirán) que el conflicto armado se dispute a una escala más grande que nunca, y en escalas de tiempo más rápidas de lo que los humanos pueden comprender", dice la carta. "No tenemos mucho tiempo para actuar". DeepMind, con sede en Londres, aseguró al personal que no está involucrado en el Proyecto Maven, según una persona familiarizada con la decisión. Una portavoz de DeepMind declinó hacer declaraciones.
