L’histoire des catastrophes, qu’elles soient soudaines ou progressives, révèle des schémas troublants : la pression hiérarchique, les impératifs de production et la primauté des délais peuvent saper les garde-fous essentiels et conduire à des erreurs irréparables. Ces leçons, tirées de drames comme Tchernobyl et le Challenger, résonnent aujourd’hui avec l’essor rapide de l’intelligence artificielle dans le secteur de la santé.
La catastrophe de Tchernobyl, survenue en 1986, illustre parfaitement ce phénomène. Un test tardif, initialement prévu pour être mené par une équipe expérimentée, a été précipité par les responsables de l’usine, sous la pression de répondre à la demande régionale en énergie. Malgré des conditions non conformes aux procédures, les opérateurs ont été incités à poursuivre, les systèmes de sécurité automatique étant désactivés ou contournés pour ne pas interrompre le test. Les alarmes ont été ignorées et un nombre excessif de barres de contrôle retirées, plaçant le réacteur dans un état extrêmement vulnérable. Ces décisions ont directement préparé le terrain pour l’accident, démontrant comment la hiérarchie et les objectifs de production peuvent éclipser la sécurité.
De même, la navette spatiale Challenger, qui s’est désintégrée peu après son décollage le 28 janvier 1986, est le résultat de pressions institutionnelles similaires. La NASA était confrontée à un retard croissant de ses lancements, à un examen politique de son programme et à une mission médiatisée impliquant une enseignante. La veille du lancement, des ingénieurs de Morton Thiokol avaient mis en garde contre les températures anormalement basses qui compromettaient les joints toriques des propulseurs solides, recommandant un report. Cependant, lors d’une téléconférence, les gestionnaires de la NASA ont insisté pour obtenir une justification, et la direction de Thiokol a annulé l’avis défavorable des ingénieurs, inversant le fardeau de la preuve. Les préoccupations concernant la glace sur le pas de tir ont été minimisées, reflétant une culture de déviance normalisée où les signaux d’alerte étaient ignorés. Au décollage, les joints toriques n’ont pas scellé correctement, permettant aux gaz de combustion chaude de s’échapper et d’éroder le joint, entraînant finalement la rupture structurelle de la pile.
Ces deux exemples soulignent un point crucial : éviter les risques ne suffit pas. L’innovation est essentielle, mais elle implique inévitablement de prendre des risques. La question est de savoir quel niveau de risque est acceptable et dans quelles circonstances. Le Dr John Halamka souligne que prendre des risques sur la chaîne d’approvisionnement est différent de prendre un risque qui pourrait avoir un impact clinique direct et immédiat sur un patient.
Aujourd’hui, les dirigeants du secteur de la santé informatique sont soumis à une pression intense pour faire progresser l’utilisation de l’IA afin d’améliorer les opérations. Il est essentiel de trouver un équilibre entre l’encouragement de l’innovation et la garantie de la sécurité des patients. Il s’agit d’un exercice délicat : être trop réactif est aussi problématique qu’être trop passif. L’art de diriger dans le domaine de l’informatique de la santé réside dans la capacité à identifier et à éliminer rapidement les risques les plus dangereux, tout en permettant à l’innovation de s’épanouir.
L’histoire nous enseigne que ceux qui osent freiner, ralentir ou remettre en question le progrès peuvent être tout aussi héroïques que ceux qui se précipitent sur les lieux d’une catastrophe. Ces voix, souvent ignorées ou même réprimandées, sont essentielles pour garantir que les risques sont évalués de manière appropriée et que les erreurs évitables sont évitées.