© G.Anichini. Photo d'un logiciel d'aide à la décision pour la sclérose en plaque (Demuth et al. 2023)

Les outils d’aide à la décision médicale investissent de plus en plus de spécialités cliniques et visent, en particulier, l’automatisation de différentes étapes du travail diagnostique et prognostique. Si ces technologies ne sont pas nouvelles et se généralisent dans le domaine de la santé depuis les années 1990, elles acquièrent aujourd’hui des formes spécifiques liées aux transformations de l’intelligence artificielle (IA) et des méthodes d’exploitation des données massives. Des nouveaux dispositifs, basés essentiellement sur des algorithmes d’apprentissage automatiques, ambitionnent par exemple d’accomplir une série d’opérations hétérogènes : classer des images médicales, cibler et caractériser des lésions, prédire la survie ou la récidive des patients. Ces opérations ne sont pas anodines car elles sont impliquées dans l’orientation des choix thérapeutiques et la prise en charge des individus. Des travaux devenus classiques, qui portent essentiellement sur l’ancienne génération d’outils d’aide à la décision – comme les systèmes experts – analysent ces objets par le biais de questions diverses comme la standardisation du travail médical (Berg, 1997), les utilisations et la manière dont l’environnement matériel autorise ou pas certaines tâches cognitives (Hutchins, 1995 ; Suchman, 1987) ou la construction des usagers et les relations de pouvoir qu’elle implique (Forsythe, 2001 ; Woolgar, 1990). L’objectif de ces journées d’étude est de penser aux possibles renouvellements de ces analyses à partir de systèmes d’aide à la décision qui sont actuellement intégrés en pratique clinique ou en cours de développement. Pour ce faire nous avons souhaité faire appel à des recherches en sciences humaines et sociales qui s’intéressent à ces objets et qui s’inscrivent dans l’un et/ou l’autre des axes de réflexions ci-dessous :

1) Travail de conception et valeurs véhiculées par les systèmes d’aide à la décision. Si chaque outil incarne des « script » (Akrich, 1987), de quels idéaux celui-ci est l’apanage ? Il s’agira dans cet axe de réfléchir à la manière dont le processus de décision clinique est imaginé à travers la technologie et comment les patients (mais aussi les professionnels et la maladie) sont décrits, représentés et mesurés. On pourra également s’interroger sur la part de choix techniques liés à des considérations juridico-réglementaires, réelles ou perçues. En général, et à partir de ce que les outils de calcul rendent visible ou laissent dans l’ombre (Jasanoff, 2017), nous souhaitons comprendre comment ces outils agissent en tant que témoins d’idéaux socio-techniques spécifiques.     

2) Analyse des usages en clinique : appropriations et résistances. Les systèmes algorithmiques s’appuient sur une quantification qui peut être défiée, contestée, détournée, adoptée par les cliniciens et les professionnels de santé. Les nouvelles incertitudes qui émergent des usages, questionnent la pertinence des opérations automatisées face aux éléments non quantifiés par la machine mais pris en compte par les cliniciens (Anichini et Geffroy, 2021) ou l’utilisation des résultats issus des technologies dans la relation avec le patient (Geampana et Perrotta, 2023). A partir de réflexions sur divers contextes d’usages dans le monde médical, nous voudrions mettre en lumière différentes articulations ou oppositions de ces outils aux normes locales. Quelle représentation et quelle mise en œuvre des normes déontologiques d’indépendance et de responsabilité pourraient ici être modifiées ? Dans quelle conditions les soignants considèrent-ils les systèmes d’aide à la décision comme « objectifs » ? Quel genre de travail cela implique-t-il ? Comment l’introduction de ces outils redessine-t-elle les contours de l’expertise médicale et quel genre de collectif l’accompagne et la structure ?

3) Que faire des expériences vécues ? Lorsque l’usage d’outils d’aide à la décision s’invite dans une consultation médecin-malade, comment ce dialogue peut-il évoluer ? Quelles différentes stratégies / rhétoriques peuvent être utilisées par le clinicien ? A quoi lui sert l’outil face au patient ? Comment le patient reçoit-il ou perçoit-il cet intermédiaire ? Comment cet outil concrétise-t-il ou détourne-t-il le principe de codécision ? Cet axe en appelle notamment aux travaux empiriques portant sur les expériences vécues d’usage d’outils d’aide à la décision médicale au sein des relations soignants-soignés. Il s’agit ici de questionner comment ces outils viennent modifier/transformer -ou non- ces relations et le cas échéant, en quel sens ? Quelles conséquences, par exemple, sur le moment de l’annonce diagnostic pouvant désormais s’appuyer sur la projection algorithmique d’une trajectoire de maladie ?

Ces journées se dérouleront en présentiel uniquement les 16 et 17 mai 2024 à la MSH Ange-Guépin (Nantes) et sont organisées dans le cadre du projet de recherche « Étude de l’outil algorithmique d’aide à la décision médicale MS Vista » (coord. M. Lancelot), financé par la Fondation pour l'aide à la recherche sur la sclérose en plaques (ARSEP). Ces travaux s’inscrivent dans la continuité du programme DataSanté [1] (coord. S. Tirard) dont ce sera l’occasion de la clôture.

CO : G. Anichini, M. Lancelot, S. Tirard, S. Desmoulin, X. Guchet

Bibliographie

Akrich M., 1987, « Comment décrire les objets techniques? », Techniques et culture, 9, p. 49‑64.

Anichini G., Geffroy B., 2021, « L’intelligence artificielle à l’épreuve des savoirs tacites. Analyse des pratiques d’utilisation d’un outil d’aide à la détection en radiologie », Sciences sociales et santé, 39, 2.

Berg M., 1997, Rationalizing medical work: decision-support techniques and medical practices, MIT press.

Forsythe D., 2001, Studying those who study us: An anthropologist in the world of artificial intelligence, Stanford University Press.

Geampana A., Perrotta M., 2023, « Predicting success in the embryology lab: The use of algorithmic technologies in knowledge production », Science, Technology, & Human Values, 48, 1, p. 212‑233.

Hutchins E., 1995, Cognition in the Wild, MIT press.

Jasanoff S., 2017, « Virtual, visible, and actionable: Data assemblages and the sightlines of justice », Big Data & Society, 4, 2, p. 2053951717724477.

Suchman L.A., 1987, Plans and Situated Actions: The Problem of Human-Machine Communication, Cambridge University Press, 224 p.

Woolgar S., 1990, « Configuring the user: the case of usability trials », The Sociological Review, 38, 1_suppl, p. 58‑99.