Entender · Texto

No todas las IA son iguales: qué hace que una IA sea clínica

Cuando se habla de IA en salud mental se mezcla todo: un chatbot genérico, una app de bienestar y una herramienta que ayuda a un médico. No son lo mismo. Te explico las seis palabras que marcan la diferencia.

IA · Salud digital · Regulación

Las seis palabras

IA generativa. Es la que escribe textos nuevos a partir de lo que ha aprendido, como los chatbots que usamos a diario. Es muy buena conversando, pero puede dar respuestas distintas a la misma pregunta e inventarse cosas con mucha seguridad. En salud, eso es un riesgo.
Determinista. Con la misma información, da siempre el mismo resultado. En una IA clínica, la conversación puede ser natural, pero la valoración tiene que seguir reglas e instrumentos validados. Lo clínico no se improvisa.
Supervisión humana. La IA ordena la información y sugiere, pero decide un profesional. Es la diferencia entre una herramienta que ayuda al médico y una que pretende sustituirlo.
Producto sanitario. Un software que sirve para diagnosticar, prevenir o hacer seguimiento de una enfermedad es, legalmente, un producto sanitario. En Europa necesita cumplir el Reglamento de Productos Sanitarios y llevar el marcado CE, igual que un aparato médico.
Validación clínica. Demostrar con estudios, junto a profesionales y pacientes, que la herramienta hace lo que dice y no hace daño. Sin validación, es una promesa.
Trazabilidad. Poder revisar qué se preguntó, qué se respondió y en qué se basa cada conclusión. Si no se puede explicar, no se puede confiar.

Chatbot genérico, app de bienestar e IA clínica

	Chatbot genérico	App de bienestar	IA clínica
Para qué sirve	Conversar sobre cualquier cosa	Hábitos, meditación, diario emocional	Ayudar a profesionales a detectar y seguir
Mismo caso, mismo resultado	No siempre	Depende	Sí
Decide un profesional	No	No	Sí
Regulación sanitaria	No	Normalmente no	Sí, si diagnostica o hace seguimiento
Explica en qué se basa	No	Poco	Sí

Cinco preguntas antes de confiar en una IA de salud mental

¿Me dice claramente que es una IA?
¿Hay un profesional sanitario detrás?
¿Está validada con estudios? ¿Dónde se pueden leer?
¿Dónde se guardan mis datos y quién los ve?
¿Qué hace si le digo que estoy en peligro?

Mi lectura

La pregunta no es si la IA va a estar en la salud mental. Ya está: mucha gente habla cada noche con un chatbot sobre cómo se siente. La pregunta es qué tipo de IA queremos ahí. Yo tengo clara mi respuesta: una que escuche con naturalidad, pero que en lo clínico sea rigurosa, transparente y esté siempre al servicio de un profesional.

¿Sabrías distinguir una respuesta segura de una peligrosa? Prueba el experimento Dos respuestas.