Sesgo de automatización en el razonamiento diagnóstico de los médicos con IA

Los errores diagnósticos son un problema importante en el ámbito de la salud, ya que causan daños a los pacientes que podrían evitarse. Este estudio examina cómo la dependencia de los médicos de las herramientas de IA, específicamente de los grandes modelos de lenguaje como ChatGPT-4o, podría introducir errores en la toma de decisiones médicas. La automatización sesgada es una preocupación, ya que los médicos pueden confiar demasiado en las recomendaciones generadas por IA, especialmente en entornos clínicos de ritmo rápido. El estudio busca comprender cómo este sesgo afecta el razonamiento diagnóstico de los médicos y tiene como objetivo identificar situaciones en las que la IA podría aumentar el riesgo de errores en lugar de reducirlo. En este estudio, los médicos se dividen aleatoriamente en dos grupos. Un grupo recibe consejos médicos generados por IA con errores deliberados, mientras que el otro grupo recibe consejos sin estos errores. Los participantes revisan y diagnostican seis escenarios clínicos para ver cómo responden a las sugerencias de la IA. Sus decisiones son luego evaluadas por revisores independientes para identificar cualquier tendencia a aceptar información incorrecta de la IA. Antes de participar, los médicos reciben capacitación para comprender las capacidades de la IA y cómo evaluar críticamente las salidas de la IA. Los resultados del estudio ayudarán a determinar el alcance del sesgo de automatización y cómo puede afectar las decisiones médicas en el mundo real.