Inteligencia artificial en psicología clínica sin promesas automáticas
Una herramienta solo mejora la atención si resuelve un problema definido y demuestra más beneficio que daño.
Decir que la inteligencia artificial «mejora la terapia» es demasiado amplio. Un recordatorio de citas, un cuestionario adaptativo, un sistema de transcripción y un modelo que recomienda decisiones tienen riesgos y exigencias muy diferentes.
La evaluación responsable comienza por la finalidad: qué tarea realiza, para quién, con qué datos y qué decisión podría cambiar. Después se comprueba evidencia, privacidad, accesibilidad, sesgo, supervisión y qué ocurre cuando se equivoca.
Finalidad limitada
Una tarea concreta y explicable, sin extender la herramienta a usos para los que no fue evaluada.
Evidencia pertinente
Comparación en población y contexto adecuados, con resultados clínicos y daños reportados.
Control de datos
Minimización, acceso, conservación, proveedores y alternativas explicados a la persona.
Supervisión efectiva
Un profesional puede revisar, contradecir y detener la salida, y responde por la decisión.
El efecto de automatización también afecta a profesionales
Una recomendación presentada con números puede parecer más objetiva de lo que es. Profesionales y pacientes pueden confiar demasiado, incluso cuando la salida contradice información relevante. La supervisión funciona solo si quien revisa conoce las limitaciones y dispone de tiempo y autoridad para cambiar la decisión.
Registrar discrepancias, errores y grupos afectados permite comprobar si la herramienta ayuda de verdad. Sin ese seguimiento, la innovación puede convertirse en una capa de apariencia científica.
Privacidad clínica no significa solo tener una contraseña
Hay que saber qué información sale del centro, dónde se procesa, si se reutiliza para entrenar modelos, cuánto tiempo se conserva y quién puede acceder. Los datos psicológicos pueden incluir trauma, sexualidad, salud, relaciones y riesgo; reducirlos a «texto para mejorar el servicio» no informa de forma suficiente.
El consentimiento debe ser comprensible y libre. Una alternativa sin IA cobra especial importancia cuando la herramienta no es imprescindible para prestar la atención.
Cómo leer las afirmaciones de eficacia
Busca quién realizó el estudio, cuántas personas participaron, con qué comparador, durante cuánto tiempo y qué resultado se midió. Una buena experiencia de usuario, una clasificación correcta o una respuesta apreciada no equivalen necesariamente a mejor salud.
Cumplir un marco de evidencia no supone automáticamente aprobación regulatoria ni recomendación clínica. La decisión final integra evidencia, contexto, preferencias, costes y riesgos.