Devin Coldewey
A medida que la IA ha pasado de ser una colección de proyectos de investigación a incluir un puñado de modelos titánicos que impulsan la industria como GPT-3, existe la necesidad de que el sector evolucione, o eso piensa Dario Amodei, ex vicepresidente de investigación de OpenAI, quien se lanzó por su cuenta para crear una nueva empresa hace unos meses. Anthropic , como se le llama, se fundó con su hermana Daniela y su objetivo es crear "sistemas de inteligencia artificial a gran escala que sean dirigibles, interpretables y robustos".
El desafío al que se enfrentan los hermanos Amodei es simplemente que estos modelos de IA, aunque increíblemente poderosos, no se comprenden bien. GPT-3, en el que trabajaron, es un sistema de lenguaje asombrosamente versátil que puede producir texto extremadamente convincente en prácticamente cualquier estilo y sobre cualquier tema.
Pero digamos que hizo que generara coplas que riman con Shakespeare y Pope como ejemplos. ¿Cómo lo hace? ¿Qué es "pensar"? ¿Qué mando ajustarías, qué dial girarías, para hacerlo más melancólico, menos romántico o limitar su dicción y léxico de formas específicas? Ciertamente hay parámetros para cambiar aquí y allá, pero realmente nadie sabe exactamente cómo se está haciendo esta salchicha de lenguaje extremadamente convincente.
Una cosa es no saber cuándo un modelo de inteligencia artificial está generando poesía, y otra muy distinta cuando el modelo está observando una tienda por departamentos en busca de un comportamiento sospechoso o buscando precedentes legales para un juez a punto de dictar una sentencia. Hoy la regla general es: cuanto más poderoso es el sistema, más difícil es explicar sus acciones. Esa no es exactamente una buena tendencia.
“Los grandes sistemas generales de hoy en día pueden tener beneficios significativos, pero también pueden ser impredecibles, poco confiables y opacos: nuestro objetivo es avanzar en estos temas”, se lee en la autodescripción de la compañía. “Por ahora, nos enfocamos principalmente en la investigación hacia estos objetivos; en el futuro, prevemos muchas oportunidades para que nuestro trabajo cree valor comercialmente y para el beneficio público ".
