Anthropic avisa: Claude se acerca a mejorarse solo y alerta de riesgos

La inteligencia artificial está cada vez más cerca de participar decisivamente en su propia evolución. Anthropic, la empresa estadounidense responsable de Claude, ha advertido de que sus próximos modelos podrían alcanzar de forma inminente un nivel de desarrollo acelerado por la propia IA. La compañía ha incluido esta posibilidad entre los factores de riesgo de su negocio en un documento presentado ante la Comisión de Bolsa y Valores de Estados Unidos (SEC) el 2 de noviembre de 2026.

La advertencia apunta hacia uno de los escenarios más importantes y controvertidos del sector tecnológico: el mejoramiento recursivo de la inteligencia artificial, un proceso mediante el cual un sistema avanzado contribuye a desarrollar versiones más potentes de sí mismo. Si estas nuevas versiones repiten el procedimiento con mayor eficacia, la evolución tecnológica podría acelerarse hasta superar la capacidad humana para evaluar sus consecuencias y garantizar su seguridad.

Conviene aclarar algo importante. Anthropic no asegura que Claude ya pueda mejorarse completamente sin intervención humana. De hecho, reconoce que ninguno de sus modelos actuales ha alcanzado el umbral de aceleración que contempla su política de seguridad. Lo novedoso es que sus previsiones internas apuntan a que las próximas generaciones podrían alcanzarlo pronto.

La compañía insiste en que pretende mantener a investigadores y técnicos al frente del desarrollo. Sin embargo, también admite una dificultad considerable: sus sistemas podrían avanzar más deprisa de lo que sus propios especialistas son capaces de detectar, comprender y supervisar.

Qué significa que una inteligencia artificial pueda mejorarse sola

El concepto se conoce como recursive self-improvement (RSI), o automejora recursiva. Describe la posibilidad de que un sistema de inteligencia artificial suficientemente avanzado participe en la creación de otro modelo con capacidades superiores, que posteriormente pueda repetir el proceso.

Hasta ahora, el desarrollo de los grandes modelos de IA ha dependido de equipos humanos que diseñan arquitecturas, preparan datos, programan sistemas de entrenamiento, ejecutan experimentos y comprueban sus resultados.

La diferencia aparece cuando la propia inteligencia artificial empieza a asumir una parte creciente de esas tareas.

Por ejemplo, un modelo podría escribir código para mejorar los sistemas de entrenamiento, proponer experimentos, analizar los resultados y detectar procedimientos más eficientes. Si esas mejoras permiten desarrollar una versión más potente, el siguiente modelo podría realizar las mismas operaciones con mayor rapidez.

Cada generación contribuiría a mejorar la siguiente, estableciendo un ciclo de avances sucesivos.

Este proceso no implica necesariamente que una máquina tenga conciencia, voluntad propia o capacidad para actuar sin límites. La cuestión es mucho más concreta: hasta qué punto puede automatizarse la investigación necesaria para desarrollar nuevas inteligencias artificiales.

Y ahí es donde Anthropic reconoce que se está produciendo un cambio importante en el desarrollo de sus modelos.

Claude ya participa en la creación de sus sucesores

La advertencia no se basa únicamente en una posibilidad teórica. Anthropic lleva meses incorporando Claude a sus propios procesos de investigación y desarrollo.

En el documento presentado ante la SEC, la compañía explica que utiliza sus modelos para programar, ejecutar experimentos, preparar datos de entrenamiento, automatizar evaluaciones y revisar código. También participan en determinadas comprobaciones de seguridad.

Los datos internos de Anthropic reflejan hasta qué punto se ha extendido esta colaboración.

Según la empresa, más del 90 % de las contribuciones de código incorporadas a sus sistemas en septiembre de 2026 fueron escritas por Claude. La cifra supone un salto considerable respecto a las primeras etapas de desarrollo de sus herramientas de programación.

Otro indicador resulta especialmente revelador. En agosto de 2026, Claude ya dirigía aproximadamente el 26 % de las tareas de investigación y desarrollo de IA dentro de la empresa. Eso significa que podía completar gran parte de determinados trabajos a partir de instrucciones generales, aunque todavía necesitaba supervisión humana.

La propia Anthropic reconoce una diferencia fundamental entre realizar tareas complejas y decidir autónomamente qué investigaciones deben emprenderse. Sus modelos han avanzado mucho en la ejecución de experimentos, pero siguen mostrando limitaciones a la hora de establecer objetivos, interpretar problemas abiertos y tomar determinadas decisiones científicas.

Por eso, escribir buena parte del código de una empresa no equivale a ser capaz de diseñar íntegramente una nueva generación de inteligencia artificial.

El principal riesgo: que la IA avance más rápido que sus controles

La preocupación expresada por Anthropic no consiste simplemente en que sus modelos sean cada vez más potentes. El problema aparece cuando la velocidad del desarrollo tecnológico supera la capacidad de verificar su seguridad.

La compañía reconoce que sus herramientas de evaluación pueden detectar determinados avances después de que estos se hayan producido.

En otras palabras, una nueva versión de Claude podría acelerar significativamente la investigación antes de que los responsables del proyecto comprendieran por completo la magnitud de ese progreso.

Esta incertidumbre afecta a varios aspectos del desarrollo de inteligencia artificial.

Uno de ellos es la posibilidad de que los errores de un modelo se transmitan a sus sucesores. Si Claude interviene en la programación o evaluación de una nueva versión, un fallo no detectado podría incorporarse al siguiente sistema y resultar más difícil de corregir.

También existe el riesgo de que las medidas de seguridad queden desfasadas ante capacidades nuevas que no se habían previsto durante las pruebas.

La empresa menciona posibles consecuencias relacionadas con comportamientos inesperados, dificultades para controlar sistemas cada vez más autónomos y nuevas vulnerabilidades de seguridad.

No significa que estos escenarios se hayan materializado. Son riesgos potenciales que Anthropic considera suficientemente relevantes como para comunicarlos formalmente a los inversores.

La paradoja es evidente: utilizar inteligencia artificial para desarrollar otra más potente constituye una ventaja competitiva, pero también puede reducir el tiempo disponible para comprobar que el resultado funciona dentro de los límites previstos.

Anthropic estudia reforzar la supervisión humana

Ante este escenario, la compañía está estudiando modificaciones de su Política de Escalado Responsable, el conjunto de procedimientos mediante el que evalúa las capacidades de sus modelos y establece medidas de seguridad proporcionales a sus riesgos.

Su objetivo declarado es conservar una supervisión humana efectiva durante el desarrollo de nuevas generaciones de inteligencia artificial.

Anthropic reconoce que no considera seguro utilizar Claude para diseñar y construir sucesivos modelos avanzados de manera completamente autónoma, sin una comprensión o intervención humana significativa, incluso si esa posibilidad llegara a ser técnicamente viable.

Entre las medidas contempladas por la empresa figuran evaluaciones más exigentes, una mayor vigilancia de las capacidades emergentes y la participación de revisores independientes.

La compañía también señala que podría retrasar el lanzamiento de determinados modelos o limitar inicialmente su disponibilidad si considera que necesita más tiempo para evaluar sus riesgos.

No sería una posibilidad inédita. Anthropic recuerda que ya ha aplicado restricciones de acceso a sistemas avanzados, como ocurrió con Mythos y el proyecto de ciberseguridad Glasswing.

Estas medidas, sin embargo, plantean otra dificultad: reducir el ritmo de lanzamiento puede afectar a la competitividad de una empresa en un mercado donde otros desarrolladores también buscan construir sistemas más potentes.

Una advertencia en plena salida a bolsa de Anthropic

El momento elegido para comunicar estos riesgos tampoco es irrelevante.

La advertencia aparece en una actualización del folleto de salida a bolsa de Anthropic, presentada ante la SEC el 2 de noviembre de 2026. Se trata de documentación destinada a explicar a los inversores la situación de la empresa, sus perspectivas y los factores que podrían comprometer su actividad.

Incluir este escenario entre los riesgos corporativos supone reconocer públicamente una incertidumbre que hasta hace poco podía parecer propia de un debate exclusivamente académico.

No obstante, una advertencia regulatoria no equivale a una predicción confirmada. Las empresas están obligadas a informar sobre circunstancias que podrían perjudicar su negocio, aunque no exista certeza de que vayan a producirse.

Anthropic combina esta cautela con una apuesta comercial muy clara: utilizar Claude para incrementar la productividad de sus investigadores y acelerar la llegada de nuevas generaciones de modelos.

La empresa considera que ese proceso puede mejorar extraordinariamente la investigación científica, la programación y el desarrollo de nuevas tecnologías.

Pero el interés económico y las exigencias de seguridad no siempre avanzan al mismo ritmo. Anthropic reconoce expresamente esa tensión en su documentación financiera.

La automejora completa todavía no es una realidad

La distinción más importante es que acelerar la investigación mediante IA no significa haber alcanzado la automejora totalmente autónoma.

Anthropic considera posible que sus próximas generaciones cumplan pronto el umbral interno que define como un progreso tecnológico extraordinariamente acelerado por la inteligencia artificial. Sin embargo, todavía no ha clasificado ninguno de sus modelos actuales dentro de esa categoría.

Tampoco ha anunciado una fecha concreta para disponer de un sistema capaz de desarrollar íntegramente a su sucesor.

La compañía ha señalado anteriormente que la automejora recursiva no es inevitable. Su llegada dependerá tanto de los avances en los modelos como de la infraestructura de cálculo, los métodos de entrenamiento y la capacidad de automatizar decisiones científicas complejas.

Lo que sí está ocurriendo es una transformación del trabajo dentro de los principales laboratorios tecnológicos. Los investigadores ya no se limitan a programar sistemas inteligentes: cada vez dependen más de esos mismos sistemas para construir los siguientes.

Ese cambio puede acelerar descubrimientos científicos y mejorar herramientas utilizadas por millones de personas. También obliga a revisar quién supervisa las decisiones, cómo se comprueban los resultados y qué mecanismos permiten detener un proceso cuando aparecen riesgos inesperados.

La advertencia de Anthropic deja así una cuestión especialmente relevante para el futuro inmediato de la inteligencia artificial: el desafío no será únicamente desarrollar máquinas más capaces, sino garantizar que los seres humanos puedan seguir comprendiendo y controlando su evolución.