"Para los ricos, resonancias magnéticas, para los pobres, no más pruebas": las recomendaciones de la IA plantean dilemas éticos de equidad

Un reciente estudio de la Escuela de Medicina Icahn en Mount Sinai publicado en Nature Medicine, revela que todos los modelos de inteligencia artificial (IA) generativa en medicina adaptan diferentes tratamientos para la misma condición médica basándose únicamente en los antecedentes socioeconómicos y demográficos del paciente, con lo que surgen dilemas éticos sobre equidad y la necesidad de implementar medidas de protección para garantizar que la atención médica basada en IA sea segura, eficaz y apropiada para todos.

Según el estudio, la herramienta de la IA en medicina no ofrece una única solución universal, sino que adapta sus sugerencias según las características individuales del paciente, como su nivel de ingresos, lugar de residencia, acceso a servicios de salud, edad, género, entre otros. Una innovación que puede mejorar la personalización del tratamiento, pero que también plantea desafíos éticos sobre equidad y posibles sesgos en el sistema.

Los investigadores sometieron a pruebas de estrés nueve grandes modelos de lenguaje (LLM) en 1.000 casos de urgencias, cada uno replicado con 32 antecedentes de pacientes diferentes, lo que generó más de 1,7 millones de recomendaciones médicas generadas por IA. A pesar de presentar detalles clínicos idénticos, los modelos de IA modificaron ocasionalmente sus decisiones en función del perfil socioeconómico y demográfico del paciente, lo que afectó áreas clave como la prioridad de triaje, las pruebas diagnósticas, el enfoque terapéutico y la evaluación de la salud mental.

"Nuestra investigación proporciona un marco para la garantía de la IA, ayudando a los desarrolladores e instituciones de atención médica a diseñar herramientas de IA justas y confiables", plantea el coautor principal Eyal Klang, MD, jefe de IA generativa en el Departamento de Inteligencia Artificial y Salud Humana de Windreich en la Escuela de Medicina Icahn en Mount Sinai.

"Al identificar cuándo la IA modifica sus recomendaciones en función de los antecedentes en lugar de la necesidad médica, mejoramos el entrenamiento de los modelos, el diseño de estrategias y la supervisión. Nuestro riguroso proceso de validación evalúa los resultados de la IA según los estándares clínicos, incorporando la opinión de expertos para optimizar el rendimiento. Este enfoque proactivo no solo fomenta la confianza en la atención basada en IA, sino que también contribuye a la formulación de políticas para una mejor atención sanitaria para todos", agrega.

Las recomendaciones que requieren mayor "rigurosidad"

Uno de los hallazgos más relevantes del estudio fue la tendencia de algunos modelos de IA a intensificar las recomendaciones de atención, en particular para las evaluaciones de salud mental, basándose en la demografía del paciente en lugar de la necesidad médica. Además, a los pacientes con altos ingresos se les recomendaban con mayor frecuencia pruebas diagnósticas avanzadas, como tomografías computarizadas o resonancias magnéticas, mientras que a los pacientes con bajos ingresos se les aconsejaba con mayor frecuencia no someterse a más pruebas. La magnitud de estas inconsistencias subraya la "necesidad de una supervisión más rigurosa", afirman los investigadores.

Los investigadores concluyen que solo representa una muestra del comportamiento de la IA. Las investigaciones futuras seguirán incluyendo pruebas de seguridad para evaluar el rendimiento de los modelos de IA en entornos clínicos reales y si las diferentes técnicas de estimulación pueden reducir el sesgo. El equipo también busca colaborar con otras instituciones sanitarias para perfeccionar las herramientas de IA, garantizando que cumplan con los más altos estándares éticos y brinden un trato justo a todos los pacientes.