Les médecins utilisent un logiciel d’IA qui ne répond pas aux normes minimales pour enregistrer et transcrire des réunions de patients, selon une enquête de Sky News.
NHS Les patrons ont demandé aux médecins généralistes et les hôpitaux cessent d’utiliser intelligence artificielle un logiciel qui pourrait enfreindre les règles de protection des données et mettre les patients en danger.
Un avertissement envoyé par le NHS England ce mois-ci est venu quelques semaines seulement après que le même corps a écrit aux médecins des avantages de l’utilisation de l’IA pour la création de notes – pour leur permettre plus de temps pour se concentrer sur les patients – en utilisant des logiciels appelés technologies vocales ambiantes, ou “AVT”.
Secrétaire à la santé Wes Street La semaine prochaine mettra l’IA au cœur du plan de réforme pour sauver le NHS dans le plan à 10 ans pour le service de santé en Angleterre.
Mais il y a une controverse croissante autour du logiciel qui enregistre, transcrit et résume les conversations des patients en utilisant l’IA.
En avril, le NHS en Angleterre a écrit aux médecins pour vendre les avantages de l’AVT et établir des normes nationales minimales.
Cependant, dans une lettre vue par Sky News, les patrons du NHS ont écrit aux médecins pour avertir que les logiciels non approuvés qui ont violé les normes minimales pourraient nuire aux patients.
Plus d’intelligence artificielle
La lettre du 9 juin, du responsable national de l’information clinique de NHS en Angleterre, a déclaré: “Nous sommes maintenant conscients d’un certain nombre de solutions AVT qui, bien qu’elles ne sont pas conformes … sont toujours largement utilisées dans la pratique clinique.
“Plusieurs fournisseurs AVT approchent des organisations du NHS … Beaucoup de ces fournisseurs n’ont pas respecté les normes de gouvernance du NHS de base.
“Procéder avec des solutions non conformes risque la sécurité clinique, les violations de la protection des données, l’exposition financière et la fragmentation de la stratégie numérique NHS plus large.”
Sky News a auparavant a révélé le danger des “hallucinations” de l’IAoù la technologie constitue des réponses alors se trouve à leur sujet, ce qui pourrait s’avérer dangereux dans un cadre de soins de santé.
Veuillez utiliser Chrome Browser pour un lecteur vidéo plus accessible
1:59 Chatgpt est-il fiable malgré ses «hallucinations»?
NHS England établit des normes minimales mais ne dit pas aux fournisseurs de fiducies et de soins de santé du NHS quels fournisseurs de logiciels à utiliser.
Sky News peut désormais révéler qu’il y a une pression croissante sur le NHS en Angleterre et des corps similaires pour être plus proactifs.
Le Dr David Wrigley, vice-président du comité GP de la British Medical Association, a déclaré: “Sans aucun doute, en tant que médecin généraliste et mes 35 000 collègues, nous avons des responsabilités ici – mais dans un marché aussi en développement rapide lorsque nous n’avons pas eu les connaissances techniques pour examiner cela.
“Nous avons besoin de cette aide et de cette soutien de ceux qui peuvent vérifier que les produits sont sûrs, vérifiez qu’ils sont sécurisés, qu’ils conviennent à une utilisation dans la salle de conseil, et NHS England devrait le faire et nous aider et nous soutenir.”
Le Dr Wrigley a poursuivi: “Nous sommes absolument en faveur de la technologie et en faveur de la réalisation de cela pour aider les patients du NHS, aidez mes collègues dans leurs chirurgies.
“Mais cela doit être fait de manière sûre et sécurisée, sinon nous pourrions avoir un libre pour tous – et ensuite les données pourraient être perdues, cela pourrait s’échapper, et ce n’est tout simplement pas acceptable.
“Nous ne sommes donc pas des dinosaures, nous sommes très pro-ai, mais cela doit être une manière sûre et sécurisée.”
Image: Le chef de la Confédération du NHS dit que la lettre est «un moment vraiment significatif»
Le spectre de dizaines de sociétés d’IA peu connues mais ambitieuses faisant pression sur les hôpitaux et les chirurgies pour faire installer leurs produits d’écoute dans certains professionnels de la santé.
Il y a d’énormes bénéfices à faire dans cette course aux armements technologiques, mais la question est posée de savoir si des centaines d’organisations du NHS différentes devraient vraiment éliminer les requins.
Matthew Taylor, directeur général de la Confédération du NHS, a déclaré que la lettre était “un moment vraiment significatif”.
Il a dit qu’il était juste pour le NHS d’expérimenter, mais qu’il fallait être plus clair de ce que la technologie fait et ne fonctionne pas en toute sécurité.
“Mon avis est que le gouvernement devrait aider en termes de décisions d’approvisionnement que la confiance prend et devrait conseiller sur les systèmes d’IA – comme nous le faisons avec d’autres formes de technologie que nous utilisons en médecine – lesquelles sont en sécurité”, a déclaré M. Taylor.
“Nous aurons besoin [government] Pour faire un peu plus pour guider le NHS de la meilleure façon de l’utiliser. “
Lorsqu’il a appuyé si à court terme, ce qui donne l’impression que cela pourrait être assez dangereux, M. Taylor a répondu: “Ce que vous avez vu avec la technologie vocale ambiante, c’est ce genre d’approche` `Let A Thousand Flowers Bloom ” a ses limites.”
Veuillez utiliser Chrome Browser pour un lecteur vidéo plus accessible
0:45 Parrain de l’IA avertit de ses dangers
Plus tôt cette année, le secrétaire à la Santé a semblé suggérer que la technologie non approuvée était utilisée – mais l’a célébrée comme signe que les médecins étaient enthousiastes à l’esprit.
M. Streetting a déclaré: “J’ai entendu de façon anecdotique dans le pub, véritablement en bas du pub, que certains cliniciens deviennent de l’avance et utilisent déjà l’IA ambiante pour enregistrer des notes et des choses, même lorsque leur pratique ou leur confiance ne les ont pas encore rattrapées.
“Maintenant, beaucoup de problèmes là-bas – ne l’encourageant pas – mais cela me dit que contrairement à cela,” Oh, les gens ne veulent pas changer, le personnel est très heureux et ils sont vraiment résistants au changement “, c’est le contraire. Les gens crient pour ce genre de choses.”
En savoir plus de Sky News:
L’enquête nationale a été lancée dans les services de maternité
Chaque bébé au Royaume-Uni pour recevoir des tests d’ADN
Image: GP Anil Mehta dit que le logiciel AI aide à couper les documents et les patients sont «extrêmement rassurés»
Les médecins qui utilisent l’IA qui se conforment aux normes nationales disent déjà qu’il y a de grands avantages.
Anil Mehta, un médecin de la circonscription du secrétaire à la Santé Ilford, a déclaré à Sky News qu’il avait soutenu la motivation de son député pour plus de technologie d’IA dans les soins de santé.
“Je passe 30% de ma semaine à faire des documents”, a-t-il déclaré. “Donc, je pense qu’une fois que j’ai expliqué toutes ces fonctionnalités de ce que nous faisons, les patients sont extrêmement rassurés. Et je n’ai fait face à personne qui ne voulait pas me faire.
Il a ajouté: “(Je) pense que la consultation avec votre médecin est extrêmement confidentielle, donc cela n’a pas du tout changé.
“Cela reste confidentiel – donc s’il s’agit d’un adulte vulnérable, d’un enfant vulnérable, d’un adolescent, d’un jeune enfant avec un parent, je pense que le concept de cette confidentialité demeure.”
Un porte-parole du NHS a déclaré: “La technologie de la voix ambiante a le potentiel de transformer les soins et d’améliorer l’efficacité et en avril, le NHS a publié des conseils pour soutenir son utilisation de manière sûre et sécurisée.
“Nous travaillons avec les organisations et les fournisseurs du NHS pour nous assurer que tous les produits de technologie vocale ambiante utilisés dans le service de santé continuent d’être conformes aux normes du NHS sur la sécurité clinique et la sécurité des données.”
Pour aller plus loin
