La plupart des algorithmes conçus pour aider les gens à identifier les problèmes de peau ne permettent pas aux experts de voir les ensembles de données avec lesquels ils ont été développés et ne partagent pas d’informations sur le teint ou l’origine ethnique des patients dans ces ensembles de données, selon une nouvelle revue. Cela pourrait rendre difficile pour les gens d’évaluer les programmes avant de les utiliser et de comprendre s’ils pourraient ne pas fonctionner aussi bien pour certains groupes de personnes, soutiennent les auteurs.
Ces types d’outils utilisent des images d’affections cutanées pour apprendre à un système à reconnaître ces mêmes affections dans de nouvelles images. Quelqu’un pourrait télécharger une photo d’une éruption cutanée ou d’un grain de beauté, et l’outil serait capable de dire de quel type d’éruption cutanée ou de grain de beauté il s’agissait.
L’article, publié en JAMA Dermatologie, a analysé 70 études qui ont développé un nouveau modèle d’apprentissage profond ou testé un algorithme existant sur un nouvel ensemble de données. Ensemble, les modèles ont été développés ou testés à l’aide de plus d’un million d’images de problèmes de peau. Selon l’analyse, seulement un quart de ces images étaient disponibles pour les experts ou le public. Quatorze des études incluaient des informations sur l’origine ethnique ou la race des patients dans leurs données, et seulement sept décrivaient leur type de peau.
Les autres ne partageaient pas la répartition démographique de leurs patients. “Je soupçonne fortement que ces ensembles de données ne sont pas diversifiés, mais il n’y a aucun moyen de le savoir”, a déclaré l’auteur de l’étude, Roxana Daneshjou, clinicienne en dermatologie à l’Université de Stanford. Twitter.
L’analyse a également vérifié si les modèles visant à identifier le cancer de la peau ont été formés sur des images où le cancer a été confirmé avec un échantillon de peau envoyé à un laboratoire – le «gold standard» pour s’assurer que le diagnostic était correct. Parmi les études incluses, 56 prétendaient identifier ces conditions, mais seulement 36 d’entre eux ont atteint l’étalon-or. Ceux qui n’ont pas pu être moins précis, disent les auteurs.
L’examen comprenait un algorithme de Google, qui a développé un outil conçu pour aider les gens à identifier les affections cutanées. La société prévoit de créer une version pilote de son outil Web, qui permet aux gens de télécharger des photos d’un problème de peau et d’obtenir une liste des conditions possibles, plus tard cette année. Selon l’analyse, l’article de Google inclut le type de peau et une répartition ethnique, mais n’a pas rendu les données ou le modèle utilisés accessibles au public. Il n’a pas non plus utilisé les méthodes de référence pour évaluer quelques types de cancers de la peau, notamment le mélanome et le carcinome basocellulaire.
Les algorithmes médicaux sont aussi bons que les données avec lesquelles ils ont été développés, et peuvent ne pas être aussi efficaces s’ils sont utilisés dans des situations différentes de celles sur lesquelles ils ont été formés. C’est pourquoi les experts soutiennent que les données, ou les descriptions de ces données, devraient être librement disponibles : « les données qui sont utilisées pour entraîner et tester un modèle peuvent déterminer son applicabilité et sa généralisabilité. Par conséquent, une compréhension claire des caractéristiques des ensembles de données … est essentielle », ont écrit les auteurs.
Le manque de transparence est un problème constant avec les algorithmes médicaux. La plupart des produits d’IA autorisés par la Food and Drug Administration (FDA) ne rapportent pas d’informations importantes sur les données avec lesquelles ils ont été développés, selon un rapport de février 2021. Nouvelles statistiques enquête. La FDA a dit Nouvelles statistiques que son nouveau « plan d’action » pour l’IA pousse à plus de transparence.
Les limitations ne signifient pas que la plupart des algorithmes de dermatologie sont inutiles, a écrit Philipp Tschandl, chercheur à l’Université de médecine de Vienne, dans un éditorial d’accompagnement. Les médecins ne sont pas non plus parfaits et ont leurs propres préjugés ou lacunes dans leurs connaissances qui peuvent fausser leur interprétation d’un problème de peau. « Nous le savons et parvenons toujours à bien pratiquer la médecine », a-t-il écrit. « Nous devons trouver des moyens, grâce à l’explicabilité, aux contrôles intelligents et à l’atténuation des risques, de permettre aux algorithmes de fonctionner en toute sécurité et de manière équitable dans le domaine de la médecine. »
