L’intelligence artificielle générative, comme ChatGPT, suscite à la fois espoirs et inquiétudes dans le secteur de la santé. Si OpenAI, la société à l’origine de ChatGPT, a récemment pris des mesures pour limiter les conseils médicaux et juridiques prodigués par son outil, des tests révèlent que les risques de réponses inappropriées, voire dangereuses, persistent.
OpenAI a précisé qu’elle continuerait à fournir des informations générales sur ces sujets sensibles, mais qu’elle orienterait les utilisateurs vers des professionnels qualifiés. L’entreprise a également souligné qu’il ne fallait pas utiliser l’outil pour obtenir des conseils personnalisés nécessitant une licence, comme des avis médicaux ou juridiques, sans l’intervention d’un professionnel agréé.
Malgré ces précautions, des expérimentations menées par des professionnels de santé montrent que ChatGPT peut encore simuler des scénarios cliniques complexes et proposer des plans de traitement détaillés, incluant même le nom du patient, sans tenir compte des réglementations en matière de confidentialité des données médicales, comme la loi HIPAA aux États-Unis. ChatGPT n’étant pas une entité soumise à cette réglementation, le manque de médecins parmi les équipes de développement de l’outil soulève des questions.
Par ailleurs, la complexité croissante du système de santé américain est source de frustrations. Le passage à l’heure normale, après l’heure d’été, crée régulièrement des confusions lors de la planification de réunions, notamment en raison de l’utilisation incorrecte des abréviations EST (Eastern Standard Time) et EDT (Eastern Daylight Time). Il est donc recommandé de toujours préciser le fuseau horaire lors de la proposition d’horaires de réunion, surtout dans les organisations nationales.
Les lettres de rappel pour les mammographies, malgré des investissements importants dans les systèmes d’information hospitaliers, continuent d’être envoyées aux patientes ayant déjà programmé leur examen, générant ainsi de l’anxiété et une perte de confiance dans le système. Il est souvent nécessaire pour les patientes de vérifier elles-mêmes la validité de leur rendez-vous via le portail en ligne.
Les interactions avec les cabinets médicaux peuvent également être source de confusion. Une patiente a récemment constaté qu’elle avait consulté un prestataire de santé au sein d’une structure appartenant à une société de capital-investissement, alors qu’elle pensait être dans un cabinet privé. Le médecin qu’elle souhaitait consulter n’était pas physiquement présent, et le prestataire qu’elle a vu n’avait pas de lien hiérarchique direct avec lui. Cette situation, bien que plus fréquente dans les zones rurales, se développe désormais en milieu urbain.
La complexité du système de facturation, avec des noms et des adresses différents de ceux du lieu de soins, ajoute une couche de confusion pour les patients. Des outils d’IA sont également utilisés pour détecter les fraudes aux notes de frais, mais leur efficacité dépend de l’utilisation de cartes d’entreprise et de systèmes de gestion des dépenses intégrés.
Enfin, une étude récente de Johns Hopkins a mis en évidence une certaine stigmatisation sociale envers les médecins utilisant l’IA générative, ce qui pourrait freiner son adoption dans le secteur de la santé. L’étude, menée auprès de 276 cliniciens, a montré que l’utilisation de l’IA comme outil de vérification atténuait les perceptions négatives, mais ne les éliminait pas complètement.
La question demeure : feriez-vous plus ou moins confiance à un médecin qui aurait utilisé des outils d’IA générative pour élaborer votre plan de soins ?