Nueva York abre el primer centro estatal para evaluar la IA avanzada

Nueva York ha puesto en marcha este martes, 10 de noviembre de 2026, el primer centro estatal de Estados Unidos dedicado a evaluar de forma independiente la seguridad de los sistemas avanzados de inteligencia artificial. La iniciativa, anunciada por la gobernadora Kathy Hochul, pretende comprobar los riesgos de los modelos más potentes y aportar pruebas científicas que permitan supervisar una tecnología cuya evolución está poniendo a prueba la capacidad de respuesta de los gobiernos.

El nuevo organismo, denominado New York Center for AI Responsibility and Research (NYCAIRR), tendrá su sede en la Universidad de Binghamton y reunirá a más de 80 investigadores de instituciones académicas de todo el estado. Su trabajo consistirá en analizar cómo funcionan los sistemas de IA, detectar vulnerabilidades y desarrollar métodos fiables para determinar si cumplen las condiciones de seguridad necesarias.

La iniciativa llega acompañada de nuevas obligaciones para las grandes compañías tecnológicas. Nueva York ha habilitado un registro para los desarrolladores de inteligencia artificial más avanzada, que deberán inscribirse antes del 1 de enero de 2027 y cumplir requisitos de transparencia, prevención de riesgos y notificación de incidentes.

La decisión supone un paso relevante en el debate sobre quién debe comprobar que una inteligencia artificial es segura. Hasta ahora, buena parte de las evaluaciones han dependido de las propias empresas que desarrollan los modelos o de entidades contratadas por ellas. Nueva York quiere incorporar una capacidad de análisis independiente, vinculada a la investigación pública y con utilidad para los organismos reguladores.

Un centro para comprobar los riesgos reales de la inteligencia artificial

El NYCAIRR estará especializado en los llamados modelos de IA de frontera, sistemas especialmente avanzados capaces de realizar tareas complejas y cuyo comportamiento puede resultar difícil de anticipar incluso para sus desarrolladores.

Su misión no será únicamente detectar errores. Los investigadores estudiarán la seguridad informática, la fiabilidad de las respuestas, las limitaciones técnicas de los modelos y su capacidad para actuar conforme a los objetivos establecidos.

También desarrollarán procedimientos de evaluación que puedan repetirse y compararse. Este último aspecto es fundamental: una tecnología no puede considerarse segura simplemente porque haya superado las pruebas diseñadas por su fabricante.

Entre las líneas de investigación previstas figuran la verificación formal de sistemas informáticos, la protección de datos, la seguridad del hardware, la interpretación del funcionamiento interno de los modelos y los riesgos asociados a los agentes autónomos de inteligencia artificial.

Estos agentes pueden ejecutar tareas mediante herramientas digitales y tomar decisiones encadenadas con distintos grados de autonomía. Su creciente capacidad plantea problemas de control que van más allá de comprobar si un chatbot ofrece una respuesta correcta.

El centro también investigará aplicaciones de la IA en medicina, investigación científica e infraestructuras críticas, ámbitos donde un fallo técnico puede tener consecuencias especialmente importantes.

Más de 80 científicos y una infraestructura de 500 millones

La iniciativa se apoyará en Empire AI, un proyecto público-privado impulsado por Nueva York con una inversión de 500 millones de dólares para proporcionar recursos avanzados de computación a las instituciones de investigación.

Esta infraestructura permitirá que los equipos académicos estudien modelos complejos sin depender exclusivamente de los recursos tecnológicos que puedan facilitarles las propias empresas desarrolladoras.

El centro establecerá una red de especialistas pertenecientes a distintas universidades y organizaciones científicas. Los investigadores podrán colaborar en proyectos conjuntos mientras continúan trabajando en sus instituciones de origen.

La intención es combinar conocimientos de informática, matemáticas, ciberseguridad y otras disciplinas para desarrollar evaluaciones independientes capaces de adaptarse a modelos cada vez más sofisticados.

Dos especialistas de Cornell y Columbia al frente del proyecto

La dirección provisional corresponderá a Greg Morrisett, decano y vicerrector de Cornell Tech, y Jeannette Wing, vicepresidenta ejecutiva de Investigación de la Universidad de Columbia.

Ambos cuentan con una amplia trayectoria en el estudio de sistemas informáticos complejos y su seguridad.

El proyecto ya había sido anunciado en enero de 2026, cuando Hochul presentó una aportación filantrópica de 30 millones de dólares, encabezada por el cofundador de Bloomberg LP Tom Secunda, junto con una inversión inicial de 25 millones de dólares de la Universidad Estatal de Nueva York (SUNY) destinada a investigación.

El anuncio de noviembre supone la puesta en marcha de la estructura de evaluación y de la colaboración científica a escala estatal. No se trata, por tanto, de una institución concebida de cero este martes, sino del desarrollo operativo de un proyecto presentado a principios de año.

Nueva York endurece las reglas para las grandes empresas de IA

La creación del centro coincide con la aplicación de la RAISE Act, la legislación neoyorquina destinada a reforzar la seguridad y la transparencia de los sistemas de inteligencia artificial más avanzados.

Esta normativa introduce obligaciones específicas para los desarrolladores de modelos de frontera, con requisitos adicionales para las grandes compañías.

Entre las medidas previstas figura la comunicación de los incidentes críticos de seguridad en un plazo de 72 horas, una exigencia especialmente importante cuando los fallos pueden comprometer sistemas informáticos o provocar daños graves.

La legislación también contempla la publicación de informes de transparencia y documentación sobre las medidas adoptadas para identificar y reducir riesgos.

No significa que cualquier empresa que utilice inteligencia artificial deba someterse a las mismas obligaciones. La regulación distingue entre los desarrolladores de modelos avanzados y las grandes entidades a las que se imponen requisitos adicionales.

El calendario de las nuevas obligaciones

La administración neoyorquina ha habilitado un portal específico para que las grandes empresas desarrolladoras de IA de frontera formalicen su inscripción antes del 1 de enero de 2027.

A partir de enero también deberán publicarse los marcos de seguridad exigidos a los grandes desarrolladores. Los proveedores de modelos de frontera estarán sujetos, además, a obligaciones de información sobre incidentes críticos y transparencia.

La aplicación de estas disposiciones corresponderá a la nueva Oficina de Innovación Digital, Gobernanza, Integridad y Confianza, conocida por sus siglas en inglés, DIGIT, integrada en el Departamento de Servicios Financieros del estado.

El centro de investigación podrá colaborar con este organismo mediante análisis técnicos y recomendaciones. Una de las primeras tareas previstas será examinar los marcos de seguridad publicados por las compañías para identificar posibles mejoras.

La distinción es importante: el NYCAIRR será un organismo de investigación y evaluación, no una autoridad sancionadora. Su función consistirá en aportar conocimientos y pruebas técnicas que ayuden a los responsables públicos a tomar decisiones.

La independencia científica, el gran desafío de la regulación

La iniciativa sitúa a Nueva York en una posición destacada dentro del debate estadounidense sobre la supervisión de la inteligencia artificial.

La gobernadora Kathy Hochul ha defendido la necesidad de comprobar las afirmaciones de las empresas tecnológicas mediante evaluaciones independientes, en un contexto marcado por la rapidez de los avances y las dificultades para anticipar sus consecuencias.

El planteamiento introduce una cuestión de fondo: disponer de modelos cada vez más capaces no garantiza que existan herramientas igualmente avanzadas para comprenderlos y controlarlos.

Las pruebas de seguridad pueden revelar vulnerabilidades o comportamientos inesperados, pero sus resultados dependerán de los métodos utilizados, del acceso real a los sistemas y de la posibilidad de contrastar los hallazgos.

Por eso, la independencia científica no depende únicamente de la denominación del organismo. También exige procedimientos rigurosos, criterios verificables y suficiente autonomía para producir conclusiones que no estén condicionadas por los intereses de los desarrolladores.

El nuevo centro pretende contribuir precisamente a construir esa base técnica. Sus investigadores tendrán que establecer hasta qué punto pueden examinar modelos especialmente complejos y qué indicadores de seguridad permiten determinar que sus riesgos se encuentran bajo control.

El verdadero alcance dependerá de las pruebas y sus resultados

La puesta en marcha del NYCAIRR representa un avance institucional, pero no significa que los sistemas de inteligencia artificial utilizados actualmente hayan recibido una certificación pública de seguridad.

El centro inicia una etapa de investigación, contratación de especialistas y desarrollo de herramientas de evaluación. Todavía tendrá que demostrar la eficacia de sus procedimientos y su capacidad para aportar resultados útiles a los reguladores.

Su importancia reside en el modelo de supervisión que Nueva York quiere consolidar: investigación independiente, pruebas técnicas y obligaciones legales como elementos complementarios para controlar los riesgos de la inteligencia artificial.

La tecnología continuará avanzando, con independencia del ritmo al que se aprueben las normas. La apuesta neoyorquina consiste en dotar a las instituciones públicas de conocimientos propios para examinarla y exigir responsabilidades cuando corresponda.

La diferencia entre anunciar controles y ejercerlos será, como suele ocurrir, lo que consigan demostrar las evaluaciones independientes. Y ahí empieza ahora el trabajo del nuevo centro.