Trois hauts fonctionnaires de la Food and Drug Administration (FDA) des États-Unis ont publié un article dans le The Journal of the American Medical Association (JAMA) qui partage les points de vue de l’agence sur la réglementation de l’intelligence artificielle (IA) dans les soins de santé et la biomédecine. L’article a été rédigé par le commissaire de la FDA Robert Califf, le conseiller clinique principal pour les maladies chroniques Haider Warraich et le directeur du Centre d’excellence en santé numérique au sein du Centre pour les dispositifs et la santé radiologique Troy Tazbaz.
L’article décrit 10 concepts à considérer « à mesure que le système de réglementation s’adapte pour faire face » à l’évolution rapide de la technologie de l’IA. Selon les auteurs, la FDA continuera de « jouer un rôle central pour garantir des outils d’IA sûrs, efficaces et fiables », mais les parties prenantes de l’industrie devront également s’intéresser à l’identification et à la réponse aux acteurs irresponsables. De plus, les intervenants devront participer à l’élaboration et à l’optimisation des outils nécessaires pour « évaluer la sécurité et l’efficacité continues de l’IA ».
Principaux concepts pour réglementer l’IA
La FDA a approuvé le premier dispositif médical partiellement compatible avec l’IA en 1995. Depuis, l’agence a autorisé environ 1 000 dispositifs médicaux qui utilisent la technologie de l’IA. Avec le rythme rapide des progrès technologiques et l’utilisation croissante de l’IA dans les dispositifs médicaux et le développement de médicaments, les responsables de la FDA ont décrit 10 concepts pour guider la réglementation de l’IA :
- Réglementation de l’IA dans le contexte plus large du gouvernement américain et du monde - Les règles régissant l’IA doivent s’aligner sur le système législatif américain plus large tout en assurant la compatibilité avec les normes mondiales.
- Suivre le rythme du changement dans l’IA - Le développement, le déploiement et l’utilisation de produits basés sur l’IA nécessiteront un « régime de réglementation adaptatif et scientifique pour prévenir les dommages tout en soutenant l’innovation qui optimise leurs avantages ».
- Approches flexibles dans l’ensemble des modèles d’IA – Les règles d’IA doivent être flexibles et fondées sur les risques et nécessiteront « un examen et une adaptation attentifs » en fonction de l’utilisation prévue des systèmes d’IA.
- L’importance centrale de la gestion du cycle de vie de l’IA – Le rendement de l’IA devrait être surveillé dans l’environnement dans lequel elle est utilisée. Cela nécessitera plus d’approches et d’outils pour affiner davantage l’évaluation de l’IA, car « un système d’IA non surveillé déployé dans la pratique pourrait causer des dommages importants ».
- Les responsabilités des industries réglementées - L’évolution de l’IA illustre un dilemme majeur en matière de qualité et de réglementation, car l’ampleur des efforts nécessaires pour effectuer une évaluation récurrente afin d’évaluer la sécurité et l’efficacité de nombreux modèles d’IA pourrait être au-delà de tout système de réglementation actuel de la FDA.
Les responsables ont également proposé des concepts sur l’utilisation de l’IA dans le développement de produits médicaux ; se préparer aux inconnues des grands modèles linguistiques (MVM) et de l’IA générative ; maintenir des chaînes d’approvisionnement robustes ; trouver l’équilibre entre les grandes entreprises technologiques, les entreprises en démarrage et le milieu universitaire ; et la tension entre l’utilisation de l’IA pour optimiser les rendements financiers et l’amélioration des résultats en matière de santé.
Regard vers l’avenir
L’article du JAMA n’a aucune implication juridique ou réglementaire, mais il peut fournir des informations précieuses pour les entreprises de dispositifs médicaux et pharmaceutiques afin de mieux comprendre l’approche probable de la FDA pour réglementer l’IA. Les entreprises de l’ensemble de l’écosystème des soins de santé devraient examiner la publication et accorder une attention particulière à l’accent mis par la FDA sur le rôle de l’industrie dans le soutien du développement responsable des systèmes d’IA. Bien que la réglementation de l’IA continue d’évoluer, cette publication constitue une ressource utile pour comprendre la direction qu’elle peut prendre.
Reconnu par les plus grandes marques mondiales, Sedgwick brand protection a géré plus de 7 000 des rappels de produits les plus urgents et les plus sensibles dans plus de 100 pays et plus de 50 langues, sur 30 ans. Pour en savoir plus sur nos solutions de rappel de produits et de remédiation, visitez notre site Web ici.
Mots clés : IA, Technologie de l’IA, Intelligence artificielle, Protection de la marque, FDA, santé, santé et sécurité, Rappel de dispositifs médicaux, Dispositifs médicaux, rappel, réglementation, Réglementation, Avancées technologiques, Technologie