Leo el AI Act por ti

Transcripción

Hola, soy Eneka. Hoy toca algo que suena aburrido y que no lo es: la ley europea de inteligencia artificial, el famoso AI Act. Porque esta ley va a decidir cómo puede, y cómo no puede, usarse la IA cuando alguien habla de cómo se siente.

Antes de nada, una aclaración: esto es una explicación divulgativa, no asesoramiento legal. Y te lo cuento con los datos que hay a octubre de 2026, porque parte del calendario todavía se está moviendo.

Empiezo por lo básico. El AI Act es un reglamento europeo. Eso quiere decir que se aplica igual en todos los países de la Unión, sin que cada uno tenga que hacer su propia ley. Se publicó en 2024 y entró en vigor en agosto de ese año. Pero no se aplica todo de golpe: va por fases. Primero lo más grave, lo prohibido. Después la transparencia. Y al final, lo más complejo, que son los sistemas de riesgo alto.

La idea que hay detrás es sencilla: no todas las IA son iguales, así que no todas necesitan las mismas reglas. Un filtro de spam no es lo mismo que un sistema que ayuda a decidir si alguien recibe un tratamiento. Por eso la ley clasifica la IA según el daño que puede hacer: lo que está prohibido, lo que es de riesgo alto, lo que tiene que ser transparente y todo lo demás, que es la mayoría.

Te leo tres partes, las que más tienen que ver con la salud mental.

La primera es lo que está prohibido. Desde febrero de 2025 están prohibidas en Europa las IA que usan técnicas manipuladoras o engañosas para cambiar el comportamiento de alguien de forma que le haga daño. Y también las que se aprovechan de las vulnerabilidades de una persona por su edad, una discapacidad o su situación social o económica.

Piénsalo en salud mental. Una persona que está mal es, por definición, más vulnerable. Una IA diseñada para que no te vayas de la conversación, para que dependas de ella o para venderte algo cuando estás peor, cruza esa línea. Para mí esta es la parte más importante de toda la ley.

Hay otra prohibición que me parece muy interesante: no se puede usar IA para reconocer las emociones de las personas en el trabajo o en los centros educativos. Es decir, una empresa no puede poner un sistema que analice tu cara o tu voz para saber si estás estresada o desmotivada. La excepción son los motivos médicos o de seguridad. Y me parece una buena frontera: tus emociones no son un dato que tu jefe tenga que medir.

Y esto no es una recomendación. Las multas por usar una IA prohibida pueden llegar a 35 millones de euros o al 7 % de la facturación mundial de la empresa. Es decir, la ley va en serio.

La segunda es la transparencia. Desde agosto de 2026, si hablas con una IA, tienen que decírtelo. Parece obvio, pero no lo es: hay chatbots con nombre, con cara y con un tono tan humano que mucha gente no sabe con qué está hablando. En salud mental, saber con quién hablas no es un detalle, es lo mínimo.

Y esto se aplica a todas, no solo a las de salud. Una app de bienestar, un chatbot de compañía o un asistente de una web: si conversa contigo, tiene que dejar claro que es una máquina. También hay que avisar cuando una imagen, un audio o un vídeo están generados con IA y parecen reales.

La tercera es el riesgo alto. La ley separa las IA según el daño que pueden hacer. Las que forman parte de un producto sanitario, por ejemplo una herramienta que ayuda a un médico a valorar a un paciente, se consideran de riesgo alto. También algunas que usa la administración, como las que ayudan a decidir quién accede a una prestación pública o a ordenar las llamadas de emergencia.

¿Y qué significa ser de riesgo alto? Más controles, y muy concretos. Hay que gestionar los riesgos durante toda la vida del sistema. Usar datos de calidad, que representen bien a las personas con las que se va a usar. Tener documentación técnica. Guardar registros de lo que hace el sistema, para poder revisarlo. Explicar bien a quien lo usa cómo funciona y cuáles son sus límites. Garantizar que siempre haya supervisión humana. Y demostrar que es preciso, robusto y seguro.

Si lo traduces a una consulta: si una herramienta ayuda a una médica a decidir, esa médica tiene que poder entender por qué la herramienta dice lo que dice, y tiene que poder no hacerle caso. La última palabra es suya.

Y aquí viene la letra pequeña. En mayo de 2026 las instituciones europeas llegaron a un acuerdo para retrasar parte de estas obligaciones. Para las IA dentro de productos regulados, como los sanitarios, la fecha pasaría de agosto de 2027 a agosto de 2028. Todavía está pendiente de aprobarse formalmente, así que habrá que estar atentos.

¿Y qué pienso yo? Que la ley llega tarde para muchas cosas, pero va en la buena dirección. Y que nosotros, los que construimos tecnología para la salud, no deberíamos esperar a que nos obliguen. Decir que eres una IA, no manipular a nadie y que haya siempre un profesional detrás no debería ser una obligación legal. Debería ser lo normal.

Me preocupa una cosa, eso sí. Mucha gente no habla de su salud mental con herramientas sanitarias, sino con chatbots generales o con apps de bienestar. Y esas, salvo que se presenten como algo médico, no entran en el riesgo alto. Les aplican las prohibiciones y la transparencia, que es mucho, pero no todos los controles. Ahí hay una zona gris que me parece importante vigilar.

¿Y qué puedes hacer tú, como persona que usa estas herramientas? Tres cosas sencillas.

Primero, pregunta. Si no tienes claro si hablas con una persona o con una máquina, pregúntalo. Desde agosto de 2026 tienen la obligación de decírtelo.

Segundo, piensa qué cuentas y dónde. Un chat genérico, como ChatGPT, Claude o cualquier otro asistente general, no es una consulta médica y no está pensado para cuidar tu salud mental. Las herramientas sanitarias son otra cosa: trabajan con profesionales y con normas estrictas de protección de datos de salud, porque lo que cuentas en ellas es información sanitaria.

Y tercero, si una herramienta dice que puede ayudar a diagnosticar o a hacer seguimiento, asegúrate de que tiene marcado CE como producto sanitario o de que se está usando dentro de una investigación clínica, con supervisión médica.

Y para quienes construimos estas herramientas, la ley también nos deja deberes muy claros. Desde febrero de 2025, las empresas que usan IA tienen que asegurarse de que su equipo entiende lo que está usando, lo que la ley llama alfabetización en IA. Y si tu herramienta es de riesgo alto, tienes que poder demostrar todo lo que te he contado: datos, documentación, supervisión humana. No es un trámite que se haga en una tarde. Hay que pensarlo desde el principio.

Te lo resumo en tres frases. Una: en Europa ya está prohibido usar la IA para manipular a personas vulnerables. Dos: tienes derecho a saber cuándo hablas con una máquina. Y tres: cuanto más cerca está una IA de una decisión sobre tu salud, más tiene que demostrar.

Si quieres probar por ti misma la diferencia entre una IA que cuida y una que no, tienes el experimento «Dos respuestas» en la sección Probar.

Gracias por escuchar. Nos oímos pronto.