Sam Altman plantea tres finales para la IA y alerta del más extremo

Sam Altman ha puesto sobre la mesa tres posibles desenlaces para la carrera por la inteligencia artificial avanzada: un organismo internacional que vigile a los grandes laboratorios, una estructura común que reúna a las principales compañías del sector o un escenario mucho más agresivo en el que una sola empresa consiga tanta ventaja que pueda impedir a sus competidores seguir desarrollando modelos. La tercera posibilidad incluye una expresión difícil de ignorar: «fundir las GPU de todos los demás».

El consejero delegado de OpenAI habría expuesto estos escenarios durante una conversación interna con empleados de la compañía. Hay, sin embargo, un matiz esencial: no son tres planes aprobados por OpenAI. Son tres posibles caminos discutidos para afrontar una cuestión que empieza a dejar de ser puramente teórica: qué ocurre si los sistemas de IA alcanzan la capacidad de mejorar de forma continuada su propia tecnología.

Y tampoco Altman está proponiendo salir con un lanzallamas a perseguir tarjetas gráficas por Silicon Valley. La frase de las GPU describe precisamente el escenario que calificó de «terrible»: una compañía logra una ventaja tecnológica y económica tan grande que termina controlando los recursos informáticos necesarios para que los demás puedan competir.

Tres futuros para una industria que ya piensa en el límite

La conversación parte de una paradoja que lleva años acompañando al sector. OpenAI, Google DeepMind, Anthropic, Meta, xAI y otros laboratorios compiten por desarrollar modelos cada vez más capaces, mientras sus propios responsables reconocen que puede llegar un punto en el que esa misma competición obligue a establecer límites compartidos.

Altman habría explicado que existen tres grandes fórmulas discutidas dentro de la industria para gestionar ese momento. Ninguna parece sencilla. Una requiere cooperación internacional; otra, que rivales multimillonarios compartan buena parte de su tecnología; la tercera supone que alguien gane la carrera de manera tan contundente que prácticamente deje de existir una carrera.

No es exactamente un menú tranquilizador. Sobre todo porque detrás de la discusión está una cuestión que va bastante más allá de los chatbots: quién controla los sistemas más poderosos si su capacidad empieza a crecer a un ritmo que sus propios desarrolladores tienen dificultades para anticipar.

Un organismo internacional para vigilar la superinteligencia

El escenario por el que Altman habría mostrado mayor simpatía consiste en crear una institución internacional semejante al Organismo Internacional de Energía Atómica, pero dedicada a los sistemas de inteligencia artificial más avanzados. La idea sería que determinados modelos quedasen sometidos a inspecciones, auditorías y estándares comunes de seguridad cuando superasen ciertos umbrales de capacidad.

La propuesta no es nueva dentro de OpenAI. La compañía lleva años defendiendo que los proyectos capaces de superar determinados niveles de potencia podrían necesitar una autoridad internacional con capacidad para comprobar sistemas, evaluar riesgos y vigilar elementos especialmente sensibles, como la capacidad de cálculo utilizada para entrenar los modelos.

El paralelismo nuclear no pretende equiparar una red neuronal con una central atómica. Apunta a otra cosa: cuando una tecnología puede provocar consecuencias que atraviesan fronteras, dejar toda la supervisión en manos de cada empresa empieza a resultar insuficiente.

La dificultad está en el mapa político. Un organismo de ese tipo exigiría acuerdos entre Estados Unidos, China, Europa y otras potencias tecnológicas. Tendría que decidir qué sistemas controla, cómo realiza las inspecciones y qué ocurre cuando una compañía o un país considera que frenar le hace perder terreno frente a sus competidores. Ahí la teoría se encuentra con la geopolítica, que suele ser bastante menos ordenada.

El «plan Demis»: juntar a los grandes laboratorios

La segunda posibilidad habría sido bautizada informalmente como «plan Demis», por Demis Hassabis, responsable de Google DeepMind. Consistiría en reunir el desarrollo de la inteligencia artificial más avanzada dentro de una organización compartida, inspirada en cierta medida en grandes proyectos científicos internacionales como el CERN.

En lugar de tener varias compañías intentando llegar primero a sistemas extremadamente potentes, los principales laboratorios colaborarían dentro de una estructura común que desarrollaría y proporcionaría modelos a los países participantes. La competición comercial quedaría, al menos en la frontera tecnológica más delicada, parcialmente sustituida por cooperación científica.

El problema se entiende sin necesidad de superinteligencia alguna. OpenAI, Google, Anthropic, Meta o xAI son competidores con inversores, tecnologías, intereses y estrategias distintas. Convencerlos de concentrar sus avances más valiosos bajo un mismo paraguas exigiría una transformación profunda del mercado. Y bastante confianza mutua, mercancía que Silicon Valley no reparte precisamente en sacos.

El escenario de «fundir las GPU» que Altman rechaza

La tercera posibilidad es la que ha disparado el interés alrededor de las palabras de Altman. El ejecutivo la habría denominado «plan Eliezer», en referencia al investigador y teórico de seguridad de la inteligencia artificial Eliezer Yudkowsky.

El planteamiento imagina que un laboratorio alcanza primero la llamada mejora recursiva, es decir, sistemas de IA capaces de contribuir a mejorar sucesivamente las siguientes generaciones de inteligencia artificial. Esa ventaja inicial podría acelerar: una IA ayuda a crear una mejor, esa nueva versión acelera todavía más la investigación y la distancia con los rivales empieza a crecer como una bola de nieve.

En ese escenario, el ganador acumularía suficiente poder económico y tecnológico para privar a los demás desarrolladores de la capacidad informática que necesitan. Altman utilizó la expresión «fundir las GPU de todos los demás» para ilustrar ese desenlace extremo y lo calificó de «terrible» al describir las distintas posibilidades.

Por eso conviene no convertir la frase en algo que no es. OpenAI no ha anunciado un plan para destruir GPU rivales, ni la expresión describe una operación real. Es una hipótesis sobre la concentración extrema de poder tecnológico si una compañía consigue una ventaja imposible de alcanzar para el resto.

La diferencia no es pequeña. Una cosa es que Altman describa ese futuro; otra, exactamente la contraria, que lo defienda.

El problema de decidir cuándo una IA es demasiado potente

Debajo de las tres hipótesis aparece una discusión más concreta que puede acabar siendo bastante más importante que la frase de las GPU. Altman habría utilizado el concepto de «pacing 2.0» para referirse a una nueva etapa en la política de seguridad de OpenAI.

La estrategia habitual consiste, simplificando, en desarrollar modelos, someterlos a evaluaciones y desplegarlos cuando superan determinados controles. El siguiente problema sería establecer también algún tipo de límite para sistemas capaces de mejorarse repetidamente a sí mismos. Llegado ese punto, una empresa tendría que decidir cuándo una IA se vuelve demasiado potente para continuar desarrollándola o liberarla sin garantías adicionales.

El asunto cambia bastante el debate. Ya no se trata únicamente de comprobar si un chatbot genera contenido peligroso o si un modelo puede utilizarse para facilitar un ciberataque. La cuestión pasa a ser cuánta autonomía y capacidad de mejora puede tolerarse antes de detener el proceso.

Y ahí aparece una dificultad incómoda: nadie dispone todavía de un velocímetro universal para la inteligencia artificial. Los modelos pueden mejorar en programación, razonamiento, investigación científica o uso autónomo de herramientas a ritmos distintos, de modo que fijar una única frontera resulta mucho más complicado que escribirla sobre el papel.

Seguridad y concentración de poder, las dos caras del problema

Las palabras de Altman encajan con una preocupación que el ejecutivo ha expresado públicamente en distintas ocasiones: la industria necesita evitar que los sistemas más avanzados escapen al control humano, pero también impedir que la inteligencia artificial más poderosa quede concentrada en una sola empresa, persona o país.

Es precisamente la tensión que atraviesa los tres escenarios. Frenar demasiado puede entregar ventaja a quien no respete las mismas reglas. No frenar puede alimentar una competición en la que cada laboratorio acelera porque teme que lo haga el vecino. Y centralizar toda la tecnología para evitar esa carrera crea otro problema, quizá el más antiguo de todos: quién controla al controlador.

El debate tampoco pertenece únicamente a OpenAI. Los grandes desarrolladores están reforzando las evaluaciones externas, las pruebas de seguridad y los mecanismos destinados a medir las capacidades de los modelos antes de desplegarlos. Algo que hace unos años habría parecido casi extravagante en una industria obsesionada con proteger sus secretos empieza a entrar en la rutina de la IA de frontera.

La carrera de la IA empieza a discutir dónde está la meta

Lo más relevante de las declaraciones atribuidas a Sam Altman no es imaginar unas GPU echando humo. Es que uno de los dirigentes centrales de la carrera tecnológica mundial ya está hablando de cómo podría terminar esa carrera.

Hasta hace poco, la gran conversación alrededor de la inteligencia artificial giraba en torno a quién tenía el modelo más potente, más rápido o más barato. El tablero se está desplazando. El verdadero problema empieza a ser hasta dónde puede avanzar un sistema antes de que continuar acelerando deje de ser una decisión empresarial normal y se convierta en una cuestión de seguridad internacional.

Altman parece inclinarse hacia una solución internacional y rechaza el futuro en el que un único laboratorio concentra suficiente poder para dejar fuera a todos los demás. Pero las dos alternativas cooperativas exigen acuerdos entre compañías y gobiernos que, al mismo tiempo, compiten ferozmente entre sí. Coordinar la carrera sin entregársela a nadie: ese es el nudo.

Las GPU, al final, son casi lo de menos. Lo que está en discusión es quién tendrá capacidad para decidir cuándo una inteligencia artificial es demasiado poderosa para seguir pisando el acelerador.