Salamanca firma diez compromisos para proteger a los niños ante la IA

El Ministerio de Juventud e Infancia y la Universidad de Salamanca han firmado una declaración con diez compromisos para proteger a los niños y adolescentes frente a los riesgos de la inteligencia artificial. El documento reclama impedir que sus datos personales se utilicen para entrenar modelos, evitar que los asistentes virtuales generen dependencia emocional y estudiar los posibles efectos de estas tecnologías sobre el desarrollo neurológico infantil.

La iniciativa, aprobada el jueves 5 de noviembre de 2026 durante el Salamanca Forum, también aborda la privacidad de los menores, el uso de herramientas inteligentes en los colegios, la discriminación algorítmica y la creación de imágenes sexuales mediante IA. No se trata de una nueva ley ni establece prohibiciones de aplicación inmediata, sino de una declaración de principios dirigida a gobiernos, empresas tecnológicas, centros educativos y organismos internacionales.

El texto, denominado Declaración del Foro de Salamanca sobre la Inteligencia Artificial y los Derechos de la Infancia, fue suscrito por la ministra Sira Rego y el rector de la Universidad de Salamanca, Juan Manuel Corchado. Su planteamiento es que la protección de los derechos infantiles debe formar parte del diseño y la regulación de estas tecnologías, en lugar de incorporarse cuando los problemas ya se han producido.

La declaración también tiene una dimensión internacional. Está previsto que se entregue este viernes 6 de noviembre al secretario general de Naciones Unidas, António Guterres, con motivo de su investidura como doctor honoris causa por la Universidad de Salamanca.

Los datos de los niños no deben utilizarse para entrenar inteligencia artificial

Uno de los compromisos más relevantes afecta directamente al negocio de las empresas tecnológicas. El documento sostiene que los datos personales y las interacciones de los menores no deben explotarse comercialmente ni emplearse para entrenar modelos de inteligencia artificial.

La propuesta también reclama prohibir la elaboración de perfiles infantiles, la publicidad basada en el comportamiento y los mecanismos diseñados para prolongar artificialmente el tiempo que los menores pasan utilizando determinados servicios.

Esto último afecta a una cuestión especialmente delicada: los sistemas capaces de adaptar sus respuestas a las preferencias del usuario para mantener su atención durante más tiempo. En el caso de los niños, la declaración considera necesario impedir que esas estrategias exploten su vulnerabilidad.

El primer principio del decálogo exige, además, que cualquier sistema de IA que pueda ser utilizado por menores o influir en sus vidas sea diseñado y evaluado teniendo en cuenta su edad, sus capacidades y sus necesidades de desarrollo.

La protección infantil, por tanto, no debería depender únicamente de las decisiones de padres y profesores. También corresponde a quienes desarrollan y comercializan estas tecnologías.

Investigar los efectos de la IA sobre el cerebro y las emociones

La declaración introduce otra exigencia: investigar de manera continuada e independiente los posibles efectos neurológicos, cognitivos y emocionales de la inteligencia artificial durante la infancia.

El documento plantea que estas investigaciones independientes deben realizarse antes de introducir determinadas tecnologías y servir para orientar las políticas públicas.

No significa que se haya demostrado que toda interacción infantil con la IA provoque daños cerebrales. La preocupación reside precisamente en la necesidad de conocer mejor sus consecuencias, especialmente durante los primeros años de vida.

Los firmantes defienden que el desarrollo tecnológico no debe desplazar actividades esenciales como el juego, el movimiento, la motricidad fina y las experiencias físicas que forman parte del aprendizaje infantil.

La cuestión es particularmente importante porque la inteligencia artificial comienza a intervenir en actividades que tradicionalmente requerían interacción directa con otras personas: resolver dudas, practicar idiomas, contar historias o recibir orientación.

Los asistentes virtuales no deben sustituir los vínculos humanos

El cuarto compromiso se centra en las relaciones afectivas. Los sistemas de IA no deberían diseñarse para manipular las necesidades emocionales de los niños, simular vínculos humanos o fomentar situaciones de dependencia.

La declaración exige que los menores sepan, de forma clara y continuada, que están interactuando con una máquina. Esa información debe adaptarse a su edad y capacidad de comprensión.

El principio pretende evitar que una conversación aparentemente cercana con un asistente artificial termine ocupando el lugar de las relaciones con familiares, compañeros o educadores.

No se cuestiona que estas herramientas puedan prestar ayuda. Lo que se rechaza es convertir la relación emocional con una máquina en un objetivo comercial o en un sustituto de la interacción humana.

La inteligencia artificial en las aulas debe ayudar, no sustituir al profesor

La educación ocupa otro lugar destacado entre los diez compromisos.

El documento acepta que la IA puede ofrecer posibilidades educativas, pero establece una condición: su utilización debe respetar la autonomía profesional del profesorado y contribuir al desarrollo del pensamiento crítico y la creatividad.

La tecnología debe funcionar como una herramienta de apoyo para docentes y familias, no como una autoridad que sustituya sus decisiones.

Esto afecta tanto a las aplicaciones que elaboran materiales educativos como a los asistentes que responden preguntas, corrigen ejercicios o adaptan contenidos al nivel de cada alumno.

Los firmantes también reclaman formación sobre inteligencia artificial para niños, padres y educadores, adaptada a las distintas edades.

Esa alfabetización tecnológica debe enseñar a proteger la privacidad, reconocer las limitaciones de los sistemas y distinguir qué tareas pueden delegarse en una herramienta automática y cuáles necesitan criterio humano.

La diferencia importa. Un alumno puede utilizar un programa para comprender una operación matemática, pero necesita aprender a resolverla y valorar si la respuesta ofrecida es correcta. La declaración apuesta por reforzar esa autonomía intelectual.

Evitar la discriminación y escuchar a los propios menores

La protección frente a la inteligencia artificial no se limita a la seguridad o al tratamiento de los datos personales.

El séptimo compromiso exige que los sistemas tecnológicos no reproduzcan ni intensifiquen situaciones de discriminación por discapacidad, género, origen étnico, lengua o situación socioeconómica.

Los algoritmos pueden ofrecer resultados diferentes dependiendo de los datos con los que han sido desarrollados. La declaración reclama que esa circunstancia no se traduzca en desventajas adicionales para determinados grupos de niños.

El octavo principio introduce una perspectiva menos habitual en los debates tecnológicos: reconocer el derecho de la infancia a participar en las decisiones sobre las herramientas que la afectan.

Esto implica facilitar que niños y adolescentes intervengan, de acuerdo con su edad y madurez, en el diseño, evaluación y gobernanza de los sistemas de inteligencia artificial.

La idea es que no sean considerados únicamente usuarios que necesitan protección, sino personas con derechos cuya experiencia debe tenerse en cuenta.

Responsabilidad ante los daños y tolerancia cero con las imágenes sexuales

Los dos últimos compromisos abordan las consecuencias de los usos perjudiciales de la tecnología.

El noveno exige establecer mecanismos de reclamación y reparación rápidos, eficaces y adaptados a la infancia cuando un sistema de inteligencia artificial perjudique a un menor o vulnere sus derechos.

También reclama que puedan identificarse los responsables. La declaración señala a los proveedores tecnológicos, las entidades encargadas de aplicar estos sistemas y las autoridades competentes como actores que deben asumir responsabilidades según su intervención.

El décimo principio se concentra en uno de los riesgos más graves: la utilización de IA para producir o manipular imágenes sexualizadas de menores.

La declaración exige tolerancia cero frente a estas prácticas, incluso cuando quienes emplean la tecnología para generar ese material también son menores de edad.

Los desarrolladores y proveedores deberían incorporar mecanismos de prevención desde el propio diseño de sus productos y actuar rápidamente para retirar los contenidos perjudiciales.

El documento introduce una precisión importante: cuando los responsables de estos comportamientos sean niños o adolescentes, las respuestas deben ser proporcionadas y tener también una finalidad educativa.

Se pretende combinar la protección de las víctimas con una actuación adecuada a la edad de quienes hayan provocado el daño.

De los compromisos de Salamanca a las obligaciones de las tecnológicas

La Declaración de Salamanca recupera el espíritu de otro documento internacional firmado en la misma ciudad en 1994, impulsado por la UNESCO para defender una educación inclusiva.

Más de tres décadas después, la preocupación se traslada al entorno digital. El principio es parecido: la tecnología y las instituciones deben adaptarse a los derechos y necesidades de la infancia, no al contrario.

Durante la presentación, Sira Rego defendió la posibilidad de avanzar hacia una agencia internacional de gobernanza de la inteligencia artificial vinculada a organismos multilaterales como Naciones Unidas.

Por el momento, se trata de una propuesta, no de un organismo cuya creación haya sido acordada.

La iniciativa también llega en un contexto de creciente regulación europea. La Unión Europea cuenta con una legislación específica sobre inteligencia artificial y ha planteado nuevas medidas para proteger a los menores en internet, incluidos los usuarios de asistentes y compañeros virtuales.

Sin embargo, conviene distinguir entre las obligaciones legales vigentes y los objetivos de la declaración salmantina. Sus diez compromisos no modifican automáticamente la legislación española ni obligan por sí solos a las empresas a cambiar sus productos.

Su importancia dependerá de que gobiernos, reguladores y compañías conviertan esos principios en medidas concretas, controles verificables y responsabilidades exigibles.

El documento plantea, en definitiva, un cambio en la forma de afrontar la relación entre infancia e inteligencia artificial: no esperar a que aparezcan los perjuicios para intentar corregirlos, sino exigir garantías desde el desarrollo de cada herramienta.

La tecnología seguirá avanzando. La cuestión que Salamanca pone sobre la mesa es quién establece sus límites cuando quienes la utilizan todavía están creciendo.