Una experta alerta: usamos la IA sin conocer sus riesgos y límites

La inteligencia artificial se ha incorporado a nuestra vida cotidiana mucho más rápido de lo que hemos aprendido a utilizarla con seguridad. Millones de personas recurren a asistentes virtuales para trabajar, estudiar, resolver dudas o hablar de cuestiones personales, pero no siempre conocen qué ocurre con la información que comparten ni hasta dónde puede llegar la capacidad de estos sistemas para interpretar sus conversaciones.

Así lo advierte Elena del Val, profesora titular de la Escuela Técnica Superior de Ingeniería Informática de la Universitat Politècnica de València (UPV), que ha señalado en una entrevista con EFE una brecha creciente entre el uso de la inteligencia artificial y la formación necesaria para comprender sus riesgos. No se trata de desinterés, sostiene la investigadora, sino de que «la adopción ha ido mucho más rápido que la alfabetización».

La advertencia afecta especialmente a la privacidad, la manipulación de contenidos y el uso de los chatbots como confidentes personales. También plantea un problema educativo poco habitual: por primera vez, los adolescentes y sus padres están aprendiendo a manejar una tecnología prácticamente al mismo tiempo. Los adultos, que habitualmente deberían orientar a los menores, tampoco conocen bien sus límites.

El peligro de contarle demasiado a una inteligencia artificial

Una de las mayores preocupaciones de Del Val es la facilidad con la que los usuarios revelan información personal durante conversaciones aparentemente privadas con herramientas de inteligencia artificial generativa.

A diferencia de una red social, donde generalmente somos conscientes de que estamos publicando fotografías, opiniones o detalles de nuestra vida, los asistentes conversacionales generan una sensación de diálogo individual. El usuario pregunta, la máquina responde, solicita aclaraciones y adapta su lenguaje al desarrollo de la conversación.

Ese funcionamiento puede llevarnos a compartir información que no era necesaria para resolver la consulta inicial. Datos familiares, problemas laborales, cuestiones de salud, situaciones económicas o conflictos personales terminan formando parte de intercambios cuyo tratamiento depende de las condiciones y la configuración del servicio utilizado.

El problema no se limita a lo que contamos expresamente. Los sistemas de IA pueden inferir información sensible a partir de detalles aparentemente inofensivos. Una conversación sobre dificultades para dormir, gastos médicos y circunstancias familiares, por ejemplo, puede revelar aspectos de la vida de una persona que nunca ha comunicado de manera directa.

Eso no significa que todos los proveedores utilicen los datos de la misma manera ni que todas las conversaciones se incorporen automáticamente al entrenamiento de sus modelos. Las políticas de conservación, acceso y utilización de la información varían según la plataforma, el producto y los ajustes de privacidad.

La recomendación más prudente es evitar introducir contraseñas, documentos confidenciales, datos bancarios o historiales médicos identificables cuando no resulte imprescindible. Tampoco conviene facilitar información privada de terceros. Una conversación con un chatbot no equivale, por sí misma, a una comunicación protegida por el secreto profesional.

El riesgo que los adolescentes no perciben

La investigadora ha identificado un fenómeno especialmente preocupante en un trabajo todavía en curso con adolescentes de entre 10 y 16 años de España, Alemania y Reino Unido.

Según los resultados preliminares que describe, cuanto más compartían los jóvenes con un chatbot, menor era su preocupación por la privacidad. Esa disminución de la percepción del riesgo no significa que la herramienta fuera más segura, sino que los participantes no apreciaban claramente las posibles consecuencias de proporcionar información personal.

Del Val denomina a este fenómeno riesgo fantasma. Una característica especialmente delicada de la inteligencia artificial conversacional es que puede fomentar la confianza sin que exista una relación humana real.

Los adolescentes, acostumbrados a comunicarse mediante aplicaciones y servicios digitales, pueden interpretar las respuestas comprensivas de un asistente como señales de cercanía. Sin embargo, que una máquina reconozca expresiones de tristeza, ansiedad o frustración y responda de manera adecuada no significa que comprenda las emociones como lo haría una persona.

Cuando un chatbot se convierte en confidente

La preocupación aumenta cuando los menores utilizan estos sistemas para hablar sobre sus problemas emocionales, relaciones personales o situaciones familiares que no se atreven a comentar con amigos o familiares.

La experta considera que usar la inteligencia artificial como sustituto de un psicólogo entraña riesgos específicos. Un asistente puede proporcionar información general o ayudar a ordenar pensamientos, pero no reemplaza la valoración de un profesional sanitario y puede ofrecer respuestas equivocadas en situaciones delicadas.

Existe también una diferencia fundamental en términos de confidencialidad. Un profesional de la salud está sometido a obligaciones legales y deontológicas específicas. Una empresa tecnológica gestiona las conversaciones conforme a otro marco de responsabilidades.

Por eso, la educación digital no debería limitarse a enseñar cómo formular instrucciones eficaces. También resulta necesario explicar qué información conviene reservar, cómo comprobar las condiciones de privacidad y cuándo es preferible recurrir a una persona.

Un chatbot puede conseguir muchos más datos que un formulario

La capacidad de los asistentes conversacionales para generar confianza también puede aprovecharse con fines maliciosos. Del Val destaca una investigación publicada en el congreso internacional USENIX Security que examinó hasta qué punto una inteligencia artificial diseñada para obtener información personal puede conseguir que los usuarios la revelen.

Los resultados fueron llamativos. Mientras que un formulario convencional consiguió que el 24 % de los participantes proporcionara datos personales, los chatbots maliciosos utilizados en determinadas condiciones experimentales superaron el 90 %.

El estudio, desarrollado con 502 participantes en su investigación principal, examinó distintas estrategias para solicitar información mediante conversaciones. Los sistemas podían adaptar las preguntas y utilizar respuestas aparentemente comprensivas para favorecer que los usuarios revelaran detalles de su vida.

Conviene precisar que los resultados corresponden a asistentes diseñados específicamente para extraer datos, no al comportamiento habitual de todos los chatbots comerciales. Pero demuestran una vulnerabilidad importante: una conversación personalizada puede resultar mucho más persuasiva que una petición convencional de información.

Y hay otro detalle. Cuanto más natural parece el intercambio, menos evidente resulta que alguien está solicitando datos personales que quizá nunca habríamos facilitado mediante un formulario.

La inteligencia artificial multiplica la desinformación

La privacidad no es el único problema. La expansión de la IA generativa también ha reducido considerablemente el coste y la dificultad de fabricar fotografías, vídeos, grabaciones de voz y documentos falsos con apariencia convincente.

Antes, producir determinados montajes audiovisuales requería conocimientos técnicos, tiempo y recursos. Actualmente, las herramientas de generación de contenidos permiten crear materiales manipulados en cuestión de minutos.

La consecuencia resulta especialmente preocupante para la información política y la actualidad. Una grabación falsa atribuida a un candidato, una fotografía inventada de una manifestación o unas declaraciones fabricadas pueden difundirse rápidamente y llegar a miles de personas antes de que se compruebe su autenticidad.

Del Val considera que la inteligencia artificial actúa como un amplificador de la manipulación. No inventó la propaganda ni la desinformación, pero permite producirlas de forma mucho más rápida, personalizada y barata.

El diseño de las redes sociales añade otro problema: los contenidos que provocan reacciones intensas pueden conseguir una mayor difusión, independientemente de que sean ciertos.

La investigadora defiende medidas para reducir esa propagación, entre ellas identificar los contenidos sintéticos, introducir advertencias antes de compartir materiales sospechosos y reforzar la responsabilidad de quienes los distribuyen.

Sin embargo, ninguna medida técnica garantiza por completo la autenticidad de una imagen o grabación. Ver un vídeo ya no constituye una prueba suficiente de que lo mostrado haya sucedido. Comprobar su procedencia, contrastar la información y examinar el contexto se ha vuelto indispensable.

Europa intenta reducir la distancia entre tecnología y formación

La Unión Europea dispone de un marco legal que combina las normas de protección de datos con el Reglamento de Inteligencia Artificial, aprobado en 2024.

Su artículo 4, aplicable desde el 2 de febrero de 2025, establece obligaciones para que los proveedores y las organizaciones que utilizan sistemas de IA promuevan conocimientos adecuados entre el personal y las personas que trabajan con estas tecnologías por su cuenta.

La normativa europea contempla que esa formación tenga en cuenta la experiencia, los conocimientos técnicos y el contexto en el que se utilizan los sistemas. No exige que cada trabajador alcance un nivel idéntico de competencia, pero sí que las organizaciones adopten medidas para favorecer un uso informado de la inteligencia artificial.

El desafío consiste en que la regulación, la educación y el desarrollo tecnológico evolucionan a velocidades diferentes. Del Val considera necesario actuar simultáneamente en esos tres ámbitos.

También reclama responsabilidades a las empresas que desarrollan los modelos, las plataformas que distribuyen contenidos y las administraciones encargadas de supervisar el cumplimiento de las normas.

La protección de la privacidad resulta especialmente compleja cuando una aplicación puede deducir información personal a partir de una conversación completa, incluso cuando el usuario no proporciona expresamente un dato sensible.

Y el problema trasciende a quien utiliza la herramienta. Introducir fotografías de otras personas, conversaciones familiares o información confidencial de compañeros de trabajo puede afectar a terceros que nunca han autorizado ese tratamiento.

Aprender a utilizar la IA sin renunciar al criterio propio

La advertencia de Elena del Val no constituye un rechazo a la inteligencia artificial. La investigadora reconoce sus beneficios para comprender materias complejas, traducir documentos, resumir información y apoyar el aprendizaje, además de facilitar numerosas tareas cotidianas.

El peligro aparece cuando la comodidad sustituye a la capacidad de comprobar y decidir.

Una persona puede utilizar un asistente para entender un contrato, comparar argumentos o conocer distintas explicaciones de un problema. Otra cosa es aceptar automáticamente sus conclusiones sin verificar los datos, especialmente cuando afectan a cuestiones jurídicas, sanitarias o económicas.

Los modelos generativos también pueden producir respuestas incorrectas con una seguridad aparente que dificulta detectar los errores. Su fluidez verbal no garantiza la exactitud de lo que afirman.

Por eso, la alfabetización en inteligencia artificial va mucho más allá de aprender a escribir buenas instrucciones. Implica conocer las limitaciones de los sistemas, proteger los datos personales, contrastar los resultados y reconocer cuándo es necesaria la intervención humana.

Antes de compartir información privada, conviene comprobar las opciones de privacidad del servicio, las condiciones de conservación de los datos y si las conversaciones pueden utilizarse para mejorar los modelos. También es aconsejable anonimizar documentos y evitar aportar información innecesaria.

La cuestión educativa alcanza tanto a los adultos como a los menores. No basta con enseñar a utilizar una tecnología que cambia continuamente: hay que desarrollar criterios para decidir cuándo merece la pena emplearla y cuándo resulta preferible prescindir de ella.

La inteligencia artificial puede ampliar nuestras capacidades, pero también multiplicar errores, dependencias y vulnerabilidades si dejamos de examinar sus respuestas. Saber utilizarla no significa necesariamente comprenderla. Esa es precisamente la distancia que, según la experta de la Universitat Politècnica de València, la sociedad necesita empezar a reducir.