1,2, 3 Questions – Claude KIRCHNER

Claude KIRCHNER, directeur du CNPEN (Comité national pilote d’éthique du numérique),

Membre du CCNE (Comité consultatif national d’éthique pour les sciences de la vie et de la santé),

Directeur de recherche émérite Inria, ancien président du comité opérationnel d’éthique d’Inria (COERLE).

Pourquoi le CNPEN s’est-il intéressé aux systèmes d’intelligence artificielle dans le diagnostic médical ?

Le CNPEN et CCNE ont été sai­sis par le Pre­mier min­istre, sur les enjeux de san­té publique de l’utilisation de l’intelligence arti­fi­cielle lors du diag­nos­tic médi­cal. En réponse à cette sai­sine et pour la pre­mière fois, le CCNE et le CNPEN vien­nent d’émettre un avis com­mun.

Le numérique implique des trans­for­ma­tions majeures de notre société en général et de notre sys­tème de san­té en par­ti­c­uli­er. Les sys­tèmes d’intelligence arti­fi­cielle dans le diag­nos­tic médi­cal (SIADM) peu­vent apporter une plus-val­ue impor­tante dans la prise en charge, des apports dont il ne serait pas éthique de se priv­er. Cepen­dant les SIADM trans­for­ment la pra­tique médi­cale et la rela­tion soignant/patient dans un con­texte où le main­tien de la rela­tion de con­fi­ance, entre le prati­cien et le patient, est fon­da­men­tal. Les SIADM doivent être com­pris et maîtrisés par le corps médi­cal ; le prati­cien doit pou­voir expliciter et expli­quer les résul­tats obtenus par ces out­ils numériques. Ces obser­va­tions et toutes les promess­es que vous voyez poindre nous ont amenés à émet­tre des recom­man­da­tions.

Quelles sont quelques-unes de vos recommandations ?

Nous devons pour­suiv­re l’enseignement des méth­odes de diag­nos­tic au préal­able et con­tin­uer à faire de la recherche pour pro­gress­er indépen­dam­ment des SIADM. Le médecin doit maîtris­er sa dis­ci­pline même s’il dis­pose de sys­tèmes numériques par­ti­c­ulière­ment per­for­mants. Le numérique met en œuvre des algo­rithmes qui n’ont pas le sens clin­ique des prati­ciens.

Ces sys­tèmes créent une inter­mé­di­a­tion numérique entre le médecin et le patient et des­sine un tri­an­gle de com­pé­tences. Cette inter­mé­di­a­tion entre le per­son­nel médi­cal et le patient doit être étudiée afin de rester atten­tif aux évo­lu­tions. Cela sup­pose une for­ma­tion des médecins adap­tée afin de ne pas se retrou­ver dépassé par l’évolution des tech­niques d’intelligence arti­fi­cielle. De même, il nous paraît impor­tant d’obtenir le con­sen­te­ment préal­able du patient à l’utilisation des SIADM et d’en indi­quer l’utilisation dans tout rap­port médi­cal.

À chaque étape du proces­sus (demande d’examen, pro­duc­tion et analyse des résul­tats), même en faisant appel aux SIADM, une super­vi­sion humaine est néces­saire. Le prati­cien dis­pose du numérique mais il doit être capa­ble de com­pren­dre l’intégralité de l’analyse et des résul­tats.

Une autre recom­man­da­tion porte sur le con­trôle de con­for­mité des SIADM. Ces sys­tèmes ne doivent évidem­ment pas être mal­faisants, mais ils doivent aus­si respecter le principe de bien­fai­sance. Nous devons donc intro­duire, de manière explicite, l’évaluation de leur effi­cac­ité clin­ique : au-delà de son absence de nociv­ité, un SIADM doit démon­tr­er qu’il con­tribue à l’amélio­ra­tion de la qual­ité du diag­nos­tic médi­cal au béné­fice du patient. La final­ité des SIADM doit s’inscrire dans une logique de pro­mo­tion con­tin­ue de la qual­ité et de la sécu­rité des soins.

Enfin nous aler­tons sur le fait que ces sys­tèmes ne sont en aucun cas des élé­ments de sub­sti­tu­tion de l’intervention humaine des pro­fes­sion­nels de san­té. Ils ne doivent pas sup­pléer au manque de médecins dans des étab­lisse­ments ou sur cer­tains ter­ri­toires.

Existe-t-il des limites à ces SIADM ?

Les secteurs les plus con­cernés par les SIADM sont l’imagerie en oncolo­gie, oph­tal­molo­gie, der­ma­tolo­gie, car­di­olo­gie, l’analyse d’images en ter­mes d’histopathologie, mais égale­ment les analy­ses génomiques. Le traite­ment par les algo­rithmes des don­nées de ce type pose la ques­tion d’un inci­den­talome. La ques­tion de la prise en compte des incer­ti­tudes doit être con­sid­érée. Cette notion rap­pelle l’indispensable com­pé­tence du médecin pour dis­cern­er la patholo­gie de l’erreur d’interprétation. De même, seul le médecin, par la rela­tion qu’il développe avec le patient, sait pren­dre en charge une infor­ma­tion inci­dente. Ceci nous ramène à l’importance de la con­fi­ance dans les échanges entre médecin et patient au regard du SIADM.