“Marquez mes mots. AI [artificial intelligence] est plus dangereux que les armes nucléaires.” — Elon Musk
L’autre jour, dès que je suis entré au travail, avec déjà mes 10 minutes de retard habituelles, je me bousculais de mon bureau à la clinique lorsque j’ai vu l’un de nos assistants médicaux dans le couloir. Elle est par ailleurs connue pour son calme, il semblait donc étrange qu’elle soit visiblement affligée. La raison était qu’elle avait oublié son ordinateur portable à la maison et ne pouvait pas trouver de prêt. J’ai essayé de lui sauver la vie en lui offrant mon ordinateur portable pour travailler. Cela signifierait que j’aurais un ordinateur sur lequel travailler dans le secteur administratif, mais je devrais voir des patients toute la journée sans avoir d’ordinateur dans la pièce avec eux.
L’AP a résisté, mais j’ai insisté. Nous avons tous les deux suivi des chemins séparés pour continuer nos journées.
Je n’avais pas vu de patients comme ça depuis un certain temps maintenant. Par “comme ça”, je veux dire sans ordinateur dans la pièce. Cela ne devrait pas être un gros problème, mais j’ai réalisé qu’un ordinateur est maintenant devenu une entité qui fait toujours partie de nos rencontres avec les patients. Si vous n’avez pas de stéthoscope, vous pouvez vous débrouiller, mais vous ne pouvez pas sans ordinateur.
C’est comme si un troisième “être” était présent dans la pièce – les deux premiers étant le médecin et le patient. Nous interagissons brièvement avec les patients, mais nous travaillons constamment sur l’ordinateur, de la consultation de leurs dossiers, laboratoires et analyses à la passation de commandes et aux instructions de planification.
Et maintenant qu’il y a la fonction “chat instantané sécurisé”, l’ordinateur nous répond tout le temps. D’autres fournisseurs nous envoient constamment des messages et, d’une certaine manière, l’ordinateur continue d’exiger notre attention, le privant du patient dans la chambre. Il nous donne des alertes s’il y a des interactions médicamenteuses. Il nous rappelle de changer nos mots de passe, nous invite à commander des tests et nous empêche de fermer les dossiers des patients si certaines règles ne sont pas respectées.
Ce jour-là, comme je n’avais pas ce troisième “être” dans la chambre, il n’y avait que le patient et moi. J’avais l’impression que la rencontre était incomplète. Je n’arrêtais pas de me demander si le patient se sentait également incomplet, car les patients se sentent généralement rassurés lorsqu’ils voient leur dossier médical sur l’ordinateur : “Je ne me souviens pas quels médicaments je prends et quelle opération j’ai subie il y a 10 ans. Tout est dans le doc informatique !”
Les patients ont en fait une relation avec l’ordinateur, car maintenant ils consultent eux-mêmes leurs dossiers et essaient de donner un sens aux choses. Parfois, ils font du bon travail, et d’autres fois, ils sont nuls. Ils adorent l’ordinateur pour cela, mais si le médecin passe trop de temps à regarder l’ordinateur au lieu du patient, ils commencent à se sentir méprisés comme le ferait un amant jaloux.
Ce jour-là, mon esprit me disait que puisque je devrai tout documenter sur l’ordinateur et l’utiliser pour passer des commandes, je devrais me dépêcher et terminer la visite avec le patient si je devais respecter l’horaire. Puis je me suis demandé : “Comment avez-vous vu des patients il y a quelques années à peine, alors qu’il n’y avait pas d’ordinateurs dans la salle – détendez-vous !”
Une sensation de calme m’envahit. J’ai oublié de devoir répondre à des messages constants et de devoir passer des commandes ou commencer à documenter la visite. J’étais sur le point de passer plus de temps à évaluer le patient pour parler de sa vie et partager mes propres histoires. J’avais l’impression qu’une foule s’était dissipée. L’air de la pièce renouait avec la relation intime médecin-patient qui avait existé pendant des siècles.
Nous avons parlé du nombre de vaches que ma patiente possédait dans sa ferme. Nous avons parlé du nombre d’entre eux qu’ils finissent par manger et du nombre qu’ils donnent. Nous avons raconté qu’il y a 20 ans, une de mes patientes a vu sa fille se pendre dans le placard. Sa blessure est encore si fraîche qu’elle croit vraiment que celui qui dit que le temps est le meilleur guérisseur est plein de conneries.
Nous avons parlé de la façon dont un de mes patients avait une vie sexuelle robuste, mais il sentait que le traitement de son cancer de la prostate lui avait enlevé l’homme qu’il était. Nous avons parlé de la façon dont le neveu de mon patient a été retrouvé mort d’une surdose de drogue. Elle était triste pour lui mais heureuse que ses enfants ne se soient pas déroulés comme ça. Nous avons parlé de choses dont habituellement le troisième “être” dans la pièce – l’ordinateur, c’est-à-dire – ne nous permet pas de parler parce que nous sommes trop occupés avec l’ordinateur plus qu’avec le patient.
Nous avons également parlé de la façon dont je pensais que la médecine serait pratiquée dans quelques centaines d’années. Comment un patient traversera une “cabine” quelconque. Ses symptômes seraient entendus comme Siri nous entend, ses signes cliniques photographiés et interprétés. Il serait scanné du crâne jusqu’aux orteils avec tous ses organes internes examinés anatomiquement. Une goutte de sang prélevée par une piqûre au doigt indolore mesurerait toutes sortes de tests de laboratoire, et l’ordinateur produirait les options de diagnostic et de traitement les plus adéquates et pourrait même injecter dans les veines la dose la plus précise de médicaments hautement efficaces contre la maladie.
Le profil génétique des patients serait analysé instantanément et les mutations seraient identifiées et modifiées pour être corrigées rapidement. Des procédures chirurgicales complexes seraient effectuées méticuleusement par des robots ambidextres. Les humains s’en remettraient davantage à ces « cabines » qu’à leur propre jugement clinique. Comme quand vous me dites comment calculer 89 573 × 74 823, je me fierais plus à une calculatrice qu’à mes compétences en informatique.
Quand Elon Musk nous met en garde contre les dangers de l’intelligence artificielle, il ne fait pas référence à la médecine en particulier, mais on peut certainement analyser sa déclaration dans le contexte de l’avenir de notre profession. Viendra-t-il un jour où cet ordinateur et cette cabine deviendront plus intelligents que le jugement clinique du médecin ?
“Jamais!” nous disons. Un ordinateur doit être programmé par un humain pour donner les résultats. Un ordinateur ne peut jamais remplacer le jugement clinique complexe d’un humain. Eh bien, je dirais que si vous disiez à un humain d’il y a 500 ans que je volerai ce soir de New York à Kuala Lumpur, et que je pourrais le faire en une seule nuit, il rirait sans aucun doute et nous ridiculiserait pour avoir gaspillé son temps.
Si les ordinateurs commençaient à nous traiter avec plus de précision que nous, nous serions heureux de l’accepter. Mais s’ils commencent à prendre des décisions pour nous, peu importe comment, mais si cela se produit effectivement, comment les ordinateurs décideront-ils, disons, quand il est temps d’arrêter la dialyse et d’aller aux soins de confort ? Comment décideront-ils à quel point la douleur est trop forte, quand donner des narcotiques et quand les retenir lorsqu’ils s’inquiètent de la dépendance ?
Comment établiront-ils des liens personnels avec les patients, partageront-ils des anecdotes et discuteront-ils de passe-temps ? Comment iront-ils aux funérailles et verseront-ils des larmes avec les patients et leurs familles alors que rien d’autre ne peut être fait ? Comment ces ordinateurs apprendront-ils à apporter confort et consolation à ces patients ? Et même s’ils le font, les patients accepteront-ils cela comme ils l’acceptent de nous, médecins humains ?
Et si les ordinateurs se retournaient contre nous ? Et s’ils commençaient à sélectionner les grossesses à porter et les autres à interrompre ? Et s’ils se mettaient à dicter les directives anticipées des patients ? Et si les ordinateurs attribuaient une valeur monétaire au nombre d’années vécues ? Et s’ils limitaient le nombre d’enfants que nous pouvons avoir ? Et s’ils me disent que mon enfant ne vaut pas la peine d’être vécu à cause de son handicap ?
Que se passe-t-il s’ils me disent que ma grand-mère occupe un lit dans un hôpital qui est nécessaire pour un patient plus jeune et qu’elle se verra refuser d’autres traitements qui prolongent la vie ? Et s’ils me disaient que c’est OK de cloner des humains et de sélectionner les “meilleurs” ? Et s’ils attribuaient aux patients des choix d’avortement et d’identité sexuelle ?
Certains d’entre vous pourraient dire : n’est-ce pas ce que les humains font déjà aux humains ? Eh bien, oui, vous avez raison. Mais l’accepterons-nous si quelqu’un d’autre que les humains – dans ce cas, l’intelligence artificielle – nous impose ces restrictions ?
Farhan S. Imran, MD, est médecin en hématologie-oncologie.
Ce message est apparu sur KevinMD.
