Biais d'automatisation dans le raisonnement diagnostique des médecins avec l'IA

Les erreurs de diagnostic sont un problème majeur dans le domaine de la santé, entraînant des préjudices pour les patients qui pourraient autrement être évités. Cette étude examine comment la dépendance des médecins aux outils d'IA, en particulier les grands modèles de langage comme ChatGPT-4o, pourrait introduire des erreurs dans la prise de décision médicale. Le biais d'automatisation est une préoccupation, car les médecins pourraient trop faire confiance aux recommandations générées par l'IA, surtout dans des environnements cliniques rapides. L'étude vise à comprendre comment ce biais affecte le raisonnement diagnostique des médecins et cherche à identifier les situations où l'IA pourrait en fait augmenter le risque d'erreurs plutôt que de le réduire. Dans cette étude, les médecins sont divisés au hasard en deux groupes. Un groupe reçoit des conseils médicaux générés par l'IA avec des erreurs délibérées, tandis que l'autre groupe reçoit des conseils sans ces erreurs. Les participants examinent et diagnostiquent six scénarios cliniques pour voir comment ils répondent aux suggestions de l'IA. Leurs décisions sont ensuite évaluées par des réviseurs indépendants pour identifier toute tendance à accepter des informations incorrectes de l'IA. Avant de participer, les médecins suivent une formation pour comprendre les capacités de l'IA et comment évaluer de manière critique les sorties de l'IA. Les résultats de l'étude aideront à déterminer l'étendue du biais d'automatisation et comment il peut affecter les décisions médicales dans le monde réel.