28 juillet 2026
Présentation générale
L’intelligence artificielle occupe une place croissante dans la prévention, le diagnostic, le pronostic, le choix thérapeutique, la surveillance des patients, l’organisation des établissements de santé et la recherche médicale.
Les systèmes concernés sont très divers. Ils peuvent notamment :
- détecter une anomalie sur une image médicale ;
- estimer un risque de maladie ou de complication ;
- proposer une orientation diagnostique ;
- recommander un traitement ;
- surveiller l’évolution d’un patient ;
- automatiser la rédaction d’un compte rendu ;
- transcrire une consultation ;
- hiérarchiser des demandes de soins ;
- analyser des données biologiques ou génomiques ;
- produire des synthèses à partir d’un dossier médical ;
- répondre directement aux questions d’un patient ;
- assister une intervention chirurgicale ou le fonctionnement d’un dispositif médical.
Ces usages ne relèvent pas d’un régime juridique unique. Le droit applicable dépend notamment :
- de la finalité du système ;
- de sa qualification éventuelle comme dispositif médical ;
- de son niveau de risque au sens du règlement européen sur l’intelligence artificielle ;
- des données traitées ;
- du rôle joué dans la décision médicale ;
- des personnes qui le développent, le fournissent et l’utilisent ;
- des conséquences du résultat produit.
Le droit médical demeure structuré autour d’un principe central : la technologie ne fait pas disparaître la responsabilité du professionnel de santé ni les droits du patient. L’IA doit en principe rester un instrument d’assistance placé sous une supervision humaine adaptée.
En droit français, l’article L. 4001-3 du Code de la santé publique prévoit déjà un régime particulier lorsqu’un professionnel utilise, pour un acte de prévention, de diagnostic ou de soin, un dispositif médical comportant un traitement algorithmique entraîné à partir de données massives. Le patient doit en être informé et, le cas échéant, être averti de l’interprétation qui en résulte. Les professionnels concernés doivent également être informés de l’utilisation du traitement, avoir accès aux données employées et aux résultats obtenus, tandis que les concepteurs doivent assurer l’explicabilité du fonctionnement pour les utilisateurs. (Légifrance)
L’Union européenne complète ce cadre par plusieurs ensembles normatifs :
- le règlement relatif aux dispositifs médicaux ;
- le règlement relatif aux dispositifs médicaux de diagnostic in vitro ;
- le RGPD ;
- le règlement sur l’intelligence artificielle, ou AI Act ;
- le règlement relatif à l’Espace européen des données de santé ;
- la nouvelle directive sur la responsabilité du fait des produits défectueux.
La fiche Dabo Tibi Ius consacrée au droit médical relève ainsi que l’IA médicale se situe au croisement de la sécurité des soins, de l’information du patient, de la protection des données, de la réglementation des produits de santé et de la responsabilité. (Dabo Tibi Ius)
Points essentiels
- Une IA médicale n’est pas nécessairement un dispositif médical.
- La qualification dépend principalement de la finalité médicale revendiquée par le fabricant.
- De nombreux logiciels médicaux fondés sur l’IA sont soumis au règlement européen sur les dispositifs médicaux.
- Certains dispositifs médicaux intégrant de l’IA sont également des systèmes d’IA à haut risque.
- Le professionnel de santé demeure responsable de la décision clinique qu’il prend.
- Il ne doit pas appliquer mécaniquement la recommandation d’un système.
- Le patient doit recevoir une information adaptée sur sa prise en charge et, dans certains cas, sur le recours à un traitement algorithmique.
- Le consentement aux soins ne doit pas être confondu avec le consentement au traitement des données.
- Les données de santé bénéficient d’une protection renforcée.
- L’entraînement et l’évaluation d’une IA médicale doivent reposer sur une base juridique et une méthodologie conformes au RGPD.
- La qualité des données conditionne directement la sécurité du système.
- Les biais peuvent provoquer des erreurs de diagnostic ou une inégalité d’accès aux soins.
- L’explicabilité exigée n’implique pas nécessairement la divulgation complète du code source.
- Les responsabilités peuvent être partagées entre le professionnel, l’établissement, le fabricant, l’éditeur, l’intégrateur ou le fournisseur de données.
- L’IA générative ne doit pas être utilisée comme une source médicale autonome ou comme un substitut à la consultation d’un professionnel.
1. Les principaux usages de l’IA en médecine
1.1. Aide au diagnostic
L’IA peut analyser :
- des radiographies ;
- des scanners ;
- des IRM ;
- des lames d’anatomopathologie ;
- des photographies dermatologiques ;
- des électrocardiogrammes ;
- des résultats biologiques ;
- des données génétiques.
Elle peut signaler une anomalie ou classer un risque. Dans la plupart des systèmes actuellement déployés, la conclusion doit être interprétée par un professionnel.
L’outil peut présenter plusieurs formes d’erreur :
- faux positif, lorsqu’il signale à tort une anomalie ;
- faux négatif, lorsqu’il ne détecte pas une pathologie ;
- mauvaise classification ;
- résultat techniquement correct mais cliniquement inadapté au patient.
1.2. Aide au pronostic
Les modèles prédictifs peuvent estimer :
- un risque d’aggravation ;
- une probabilité de réhospitalisation ;
- un risque de décès ;
- une réponse probable à un traitement ;
- un risque de complication ;
- une durée prévisible de séjour.
Ces résultats doivent être distingués d’une certitude médicale. Une probabilité algorithmique dépend du jeu de données, de la population étudiée et du contexte clinique.
1.3. Aide au choix thérapeutique
Certains systèmes comparent les caractéristiques d’un patient avec des recommandations, études ou données historiques afin de proposer une stratégie thérapeutique.
Le professionnel doit notamment vérifier :
- la pertinence des données utilisées ;
- l’actualité des recommandations ;
- les contre-indications ;
- les caractéristiques individuelles ;
- la cohérence avec l’état clinique réel.
1.4. IA générative
Les modèles génératifs peuvent être utilisés pour :
- rédiger un projet de courrier médical ;
- résumer un dossier ;
- structurer un compte rendu ;
- préparer une note de sortie ;
- reformuler une information destinée au patient ;
- traduire un document ;
- assister la recherche documentaire.
La Haute Autorité de santé recommande un usage « avec le professionnel », reposant notamment sur la vérification des résultats, l’évaluation de la pertinence et la communication au sein de l’organisation. Elle alerte aussi sur les hallucinations, les usages non évalués et la transmission d’informations confidentielles à des services inadaptés. (Haute Autorité de Santé)
1.5. Usage direct par les patients
Les patients utilisent également des agents conversationnels pour :
- interpréter des symptômes ;
- comprendre un résultat ;
- rechercher un diagnostic ;
- préparer une consultation ;
- obtenir des conseils sur un traitement.
La HAS rappelle que les réponses génératives ne sont pas garanties comme exactes et recommande de recourir à un professionnel de santé pour l’interprétation et la décision. (Haute Autorité de Santé)
2. Qualification comme dispositif médical
2.1. Principe
Un logiciel fondé sur l’IA peut constituer un dispositif médical lorsqu’il est destiné par son fabricant à une finalité médicale déterminée, telle que :
- le diagnostic ;
- la prévention ;
- le contrôle ;
- la prédiction ;
- le pronostic ;
- le traitement ;
- l’atténuation d’une maladie ;
- l’évaluation d’un état physiologique ou pathologique.
Le règlement (UE) 2017/745 relatif aux dispositifs médicaux constitue le texte central pour les logiciels poursuivant une telle finalité. (EUR-Lex)
Un simple logiciel administratif, de prise de rendez-vous ou de gestion financière n’est pas un dispositif médical du seul fait qu’il est utilisé dans un établissement de santé.
2.2. Finalité revendiquée
La qualification dépend en grande partie de la destination définie par le fabricant dans :
- la documentation ;
- la notice ;
- le marquage ;
- les supports commerciaux ;
- les spécifications techniques.
Un outil présenté comme simple aide documentaire ne devrait pas être utilisé comme système de diagnostic autonome sans réévaluation de sa qualification et de sa conformité.
2.3. Classification du risque
La classification du dispositif détermine l’intensité de l’évaluation de conformité.
Pour les logiciels, le niveau de risque dépend notamment de l’importance de l’information fournie pour la décision médicale. Un logiciel influençant une décision susceptible d’entraîner le décès ou une détérioration irréversible peut relever d’une classe élevée.
2.4. Marquage CE
Le fabricant doit démontrer la conformité du dispositif aux exigences applicables, notamment concernant :
- la sécurité ;
- la performance ;
- la gestion des risques ;
- l’évaluation clinique ;
- la cybersécurité ;
- l’information des utilisateurs ;
- la surveillance après commercialisation.
Le marquage CE ne constitue pas une garantie absolue d’efficacité dans toutes les situations. Il atteste que le dispositif a suivi le processus de conformité applicable.
3. Articulation avec le règlement européen sur l’IA
3.1. Systèmes à haut risque
En application de l’article 6, paragraphe 1, de l’AI Act, un système constitue un système à haut risque lorsqu’il est un produit ou un composant de sécurité relevant d’une législation européenne énumérée à l’annexe I et qu’il doit faire l’objet d’une évaluation de conformité par un tiers.
Les dispositifs médicaux intégrant une IA peuvent donc relever du régime des systèmes à haut risque lorsque ces conditions sont réunies. (EUR-Lex)
Tous les outils d’IA utilisés en santé ne sont cependant pas automatiquement à haut risque. Un système administratif ou un outil de rédaction peut relever d’un régime différent.
3.2. Obligations principales
Le régime des systèmes à haut risque impose notamment :
- une gestion continue des risques ;
- une gouvernance des données ;
- une documentation technique ;
- une traçabilité ;
- des journaux d’événements ;
- une information appropriée des déployeurs ;
- une supervision humaine ;
- une exactitude, une robustesse et une cybersécurité suffisantes ;
- une surveillance après mise sur le marché.
Ces obligations s’ajoutent aux exigences sectorielles applicables aux dispositifs médicaux.
3.3. Calendrier
L’AI Act est entré en vigueur le 1er août 2024. Une partie substantielle de ses dispositions devient applicable le 2 août 2026. Certaines règles concernant les systèmes à haut risque liés à des produits régis par l’annexe I suivent toutefois un calendrier particulier pouvant conduire à une application au 2 août 2027. L’analyse doit donc être menée obligation par obligation. (EUR-Lex)
Au 28 juillet 2026, l’échéance générale du 2 août 2026 est imminente.
3.4. Supervision humaine
La supervision humaine ne doit pas être purement formelle.
Le professionnel doit être en mesure :
- de comprendre le rôle du système ;
- d’interpréter son résultat ;
- d’identifier certaines limites ;
- de ne pas suivre la recommandation ;
- d’interrompre l’utilisation ;
- de détecter un comportement anormal.
Un système techniquement supervisé peut néanmoins produire une automatisation de fait lorsque le professionnel manque de temps, de formation ou d’accès aux informations nécessaires.
4. Information du patient
4.1. Droit général à l’information
L’article L. 1111-2 du Code de la santé publique reconnaît à toute personne le droit d’être informée sur son état de santé, les investigations et traitements proposés, leur utilité, leurs conséquences, leurs risques ainsi que les solutions alternatives. L’information incombe au professionnel dans le cadre de ses compétences et doit être délivrée au cours d’un entretien individuel, sauf exceptions prévues par la loi. (Légifrance)
L’utilisation de l’IA peut faire partie de cette information lorsqu’elle modifie de manière significative :
- la méthode diagnostique ;
- l’évaluation du risque ;
- la stratégie thérapeutique ;
- les conditions de surveillance ;
- la nature des données traitées ;
- le rôle respectif du professionnel et du système.
4.2. Information spéciale prévue par l’article L. 4001-3
L’article L. 4001-3 impose une information lorsque le professionnel décide d’utiliser, pour un acte de prévention, de diagnostic ou de soin, un dispositif médical comportant un traitement algorithmique entraîné à partir de données massives.
Le professionnel doit :
- s’assurer que la personne a été informée ;
- l’avertir, le cas échéant, de l’interprétation résultant du traitement.
Le texte exige également que :
- les professionnels concernés soient informés du recours au traitement ;
- les données utilisées et les résultats soient accessibles ;
- le concepteur assure l’explicabilité pour les utilisateurs. (Légifrance)
4.3. Étendue de l’information
L’information ne suppose pas nécessairement une explication mathématique complète.
Elle devrait être adaptée à l’incidence du système et peut porter sur :
- sa fonction ;
- son rôle dans la prise en charge ;
- ses principales limites ;
- l’intervention du professionnel ;
- la possibilité d’erreur ;
- l’utilisation de données ;
- l’existence d’une solution alternative lorsqu’elle est pertinente.
Plus le système influence une décision grave, plus l’information doit être précise.
5. Consentement du patient
5.1. Consentement aux soins
Le patient consent à l’acte médical après avoir reçu une information adaptée.
L’intervention d’une IA peut être un élément de la décision, mais elle ne crée pas nécessairement un consentement autonome distinct pour chaque outil technique.
Un consentement spécifique peut néanmoins être nécessaire lorsque :
- la loi le prévoit ;
- l’usage dépasse la prise en charge habituelle ;
- la personne participe à une recherche ;
- des prélèvements ou données sont utilisés dans un cadre particulier ;
- le traitement présente une finalité secondaire.
5.2. Consentement au traitement des données
Le consentement aux soins ne doit pas être confondu avec le consentement au sens du RGPD.
Un traitement de données de santé peut reposer sur une autre base juridique, notamment :
- la prise en charge sanitaire ;
- une obligation légale ;
- une mission d’intérêt public ;
- la recherche scientifique ;
- l’intérêt public dans le domaine de la santé publique.
Il est donc inexact d’affirmer que tout traitement de données médicales par une IA suppose nécessairement le consentement RGPD du patient.
5.3. Refus de l’outil
La possibilité de refuser un système dépend du contexte.
Lorsqu’une alternative médicale existe, elle doit être présentée si elle est pertinente. En revanche, le patient ne dispose pas nécessairement d’un droit général à imposer au professionnel toutes les modalités techniques de l’acte.
Le refus ne devrait toutefois pas conduire à une absence de soins lorsqu’une solution adaptée peut raisonnablement être proposée.
6. Données de santé et entraînement des modèles
6.1. Données sensibles
Les données concernant la santé appartiennent aux catégories particulières de données protégées par l’article 9 du RGPD.
Il peut s’agir :
- de diagnostics ;
- de résultats d’examens ;
- d’antécédents ;
- de prescriptions ;
- de données génétiques ;
- de données biologiques ;
- de données issues d’objets connectés ;
- d’informations déduites par un algorithme.
Une donnée peut être une donnée de santé même si elle n’a pas été produite par un médecin, dès lors qu’elle révèle une information sur l’état physique ou mental d’une personne.
6.2. Développement d’une IA
Le développement d’une IA médicale implique de déterminer :
- le responsable du traitement ;
- la finalité ;
- la base juridique ;
- l’exception applicable à l’interdiction de traiter les données sensibles ;
- les catégories de données nécessaires ;
- les durées de conservation ;
- les destinataires ;
- les mesures de sécurité ;
- les droits des personnes.
La CNIL indique que les projets de développement et d’évaluation d’IA en santé doivent être qualifiés avec soin, notamment pour déterminer s’ils relèvent de la recherche dans le domaine de la santé et quelles formalités ou méthodologies leur sont applicables. (CNIL)
6.3. Minimisation
L’utilisation de volumes importants n’écarte pas le principe de minimisation.
Le développeur doit pouvoir justifier :
- la pertinence des variables ;
- la taille du corpus ;
- l’utilisation de données directement identifiantes ;
- le niveau de précision ;
- la durée de conservation ;
- la nécessité des données sensibles.
6.4. Anonymisation et pseudonymisation
Une base pseudonymisée reste soumise au RGPD si la réidentification demeure raisonnablement possible.
En santé, le risque de réidentification est particulièrement élevé lorsque les données comprennent :
- une maladie rare ;
- une combinaison clinique singulière ;
- des dates précises ;
- des informations génétiques ;
- une trajectoire de soins détaillée ;
- une localisation.
L’emploi d’IA augmente les capacités de recoupement entre plusieurs ensembles.
6.5. Hébergement
Les données de santé à caractère personnel recueillies à l’occasion d’activités de prévention, de diagnostic, de soins ou de suivi peuvent être soumises aux règles françaises relatives à l’hébergement de données de santé.
Le recours à un fournisseur d’IA externe doit donc conduire à vérifier :
- sa qualification juridique ;
- son rôle de sous-traitant ou de responsable ;
- le lieu de traitement ;
- les transferts internationaux ;
- la certification applicable ;
- la réutilisation des données.
7. Espace européen des données de santé
Le règlement (UE) 2025/327 institue l’Espace européen des données de santé, ou EHDS.
Il organise notamment :
- l’accès des personnes à leurs données électroniques de santé ;
- l’utilisation primaire des données pour les soins ;
- l’interopérabilité des systèmes de dossiers médicaux électroniques ;
- l’utilisation secondaire pour la recherche, l’innovation, les politiques publiques et certaines activités réglementaires ;
- la gouvernance européenne de ces accès.
L’EHDS constitue un cadre majeur pour le développement de l’IA médicale, car il vise à faciliter l’utilisation secondaire de données de santé sous contrôle institutionnel. Il n’autorise pas pour autant un accès libre et indifférencié aux données. (EUR-Lex)
Les usages secondaires sont soumis à des conditions, à des autorisations et à des environnements sécurisés. Certaines finalités sont exclues ou strictement encadrées.
8. Secret médical et confidentialité
8.1. Secret professionnel
Le recours à une IA ne supprime pas le secret médical.
Un professionnel ne peut transmettre des données identifiantes à un service externe sans vérifier :
- la nécessité de la transmission ;
- le fondement juridique ;
- les engagements du fournisseur ;
- les accès possibles ;
- la conservation ;
- la sécurité ;
- les transferts hors de l’Union européenne.
8.2. Agents conversationnels grand public
L’introduction d’un compte rendu, d’une photographie médicale ou d’un dossier nominatif dans un service généraliste peut constituer une divulgation non maîtrisée.
La simplicité de l’interface ne doit pas créer l’illusion d’une conversation couverte automatiquement par le secret médical.
8.3. Transcription des consultations
Les outils d’écoute ambiante peuvent transcrire une consultation et générer un compte rendu.
Ils soulèvent des questions spécifiques concernant :
- l’information du patient ;
- l’enregistrement sonore ;
- la présence de tiers ;
- la durée de conservation ;
- la sécurité ;
- l’exactitude de la transcription ;
- l’intégration dans le dossier médical.
9. Explicabilité et intelligibilité
9.1. Explicabilité pour le professionnel
L’article L. 4001-3 impose aux concepteurs d’assurer l’explicabilité du fonctionnement pour les utilisateurs dans son champ d’application. (Légifrance)
L’explicabilité doit permettre au professionnel de comprendre au moins :
- la finalité ;
- les données d’entrée ;
- le type de résultat ;
- les limites ;
- les situations pour lesquelles le modèle n’a pas été validé ;
- les principaux facteurs influençant le résultat ;
- les performances connues.
9.2. Information intelligible pour le patient
Le patient n’a pas nécessairement besoin de connaître l’architecture du modèle.
Il doit pouvoir comprendre :
- qu’un système est utilisé ;
- quelle fonction il remplit ;
- qui prend la décision ;
- quelles conséquences il peut avoir ;
- quelles limites principales doivent être connues.
9.3. Secret des affaires
L’explicabilité doit être conciliée avec :
- le secret des affaires ;
- les droits de propriété intellectuelle ;
- la cybersécurité ;
- la protection du modèle.
Le secret des affaires ne peut toutefois justifier une opacité empêchant les professionnels d’utiliser le dispositif de manière sûre.
10. Biais et discriminations médicales
10.1. Origine des biais
Les biais peuvent résulter :
- d’une population d’entraînement non représentative ;
- d’une sous-représentation de certains groupes ;
- de données historiques inégalitaires ;
- de mesures cliniques imprécises ;
- d’annotations erronées ;
- d’un choix inadéquat de variable cible ;
- d’un déploiement dans une population différente.
10.2. Conséquences
Les erreurs peuvent affecter différemment :
- les femmes ;
- les personnes âgées ;
- certains groupes ethniques ;
- les personnes handicapées ;
- les enfants ;
- les patients atteints de maladies rares ;
- les populations insuffisamment représentées dans la recherche.
Le risque ne concerne pas seulement la discrimination directe. Un système apparemment neutre peut produire des performances médicales inégales.
10.3. Obligations
La gouvernance des données et l’évaluation clinique doivent notamment examiner :
- la représentativité ;
- les performances par sous-groupe ;
- les faux positifs et faux négatifs ;
- les conditions de généralisation ;
- l’évolution des performances après déploiement.
11. Responsabilité médicale
11.1. Principe
Le professionnel de santé demeure responsable de la décision qu’il prend dans le cadre de sa pratique.
L’utilisation conforme d’un outil ne transfère pas automatiquement la responsabilité au fabricant. Inversement, le professionnel n’est pas nécessairement responsable d’un défaut technique impossible à détecter.
L’analyse doit distinguer :
- le choix d’utiliser le système ;
- la manière dont il a été utilisé ;
- la qualité du résultat ;
- la possibilité de détecter l’erreur ;
- l’information disponible ;
- le lien causal avec le dommage.
11.2. Faute du professionnel
Une faute peut notamment être discutée lorsque le professionnel :
- suit mécaniquement une recommandation incohérente ;
- utilise un système hors de sa destination ;
- ignore une alerte clinique manifeste ;
- ne vérifie pas les résultats ;
- emploie un outil non autorisé ;
- manque à son obligation d’information ;
- introduit des données incorrectes ;
- n’a pas suivi la formation nécessaire.
11.3. Refus injustifié de l’IA
La responsabilité pourrait aussi être discutée en cas de refus d’utiliser un outil devenu nécessaire au regard des données acquises de la science ou des standards professionnels.
L’existence d’un tel devoir ne peut cependant être affirmée de manière abstraite. Elle dépend :
- du niveau de validation ;
- des recommandations professionnelles ;
- de la disponibilité ;
- de la situation du patient ;
- des pratiques reconnues.
11.4. Établissement de santé
La responsabilité de l’établissement peut être recherchée en raison :
- du choix du système ;
- de son intégration ;
- de l’absence de formation ;
- d’un défaut de maintenance ;
- d’une gouvernance insuffisante ;
- d’un incident de cybersécurité ;
- d’une organisation défaillante de la supervision.
12. Responsabilité du fabricant et du fournisseur
12.1. Produit défectueux
La directive (UE) 2024/2853 modernise le régime européen de responsabilité du fait des produits défectueux. Elle couvre expressément les logiciels, y compris les applications et systèmes d’intelligence artificielle. (EUR-Lex)
Un défaut peut notamment concerner :
- la conception ;
- les performances ;
- les instructions ;
- la cybersécurité ;
- une mise à jour ;
- l’absence de mise à jour nécessaire ;
- l’interaction avec d’autres produits.
La directive doit être transposée par les États membres. Il convient donc de distinguer son contenu européen du droit national applicable au litige à une date donnée.
12.2. Défaut du dispositif médical
Un dispositif peut être défectueux même s’il porte un marquage CE.
Le marquage constitue un élément de l’appréciation, mais n’exclut pas :
- une erreur de conception ;
- une information insuffisante ;
- un défaut de fabrication ;
- une vulnérabilité ;
- une performance inférieure à celle légitimement attendue.
12.3. Mise à jour et apprentissage
Les systèmes évolutifs soulèvent des difficultés particulières.
Il faut déterminer :
- qui contrôle les mises à jour ;
- si le modèle continue d’apprendre ;
- quand une modification devient substantielle ;
- si une nouvelle évaluation est nécessaire ;
- qui surveille la dérive des performances ;
- qui peut suspendre le système.
13. Preuve et causalité
13.1. Complexité de la chaîne causale
Une erreur médicale impliquant l’IA peut résulter de plusieurs causes :
- données incorrectes ;
- modèle défaillant ;
- mauvaise interface ;
- défaut d’intégration ;
- mauvaise interprétation ;
- absence de supervision ;
- problème de mise à jour ;
- cyberattaque.
Le patient peut éprouver des difficultés à identifier l’acteur responsable.
13.2. Traçabilité
Les journaux et documents techniques peuvent permettre de déterminer :
- la version du système ;
- les données introduites ;
- le résultat produit ;
- les alertes ;
- les interventions humaines ;
- les modifications ultérieures.
La traçabilité est donc à la fois une exigence de conformité et un élément potentiel de preuve.
13.3. Opacité
L’opacité du modèle ne doit pas conduire à priver la victime d’un recours effectif.
La nouvelle directive sur les produits défectueux prévoit des mécanismes destinés à faciliter la preuve dans certains litiges techniquement complexes, notamment au moyen de divulgations et de présomptions encadrées. (EUR-Lex)
14. Cybersécurité
Un système d’IA médicale peut être affecté par :
- une attaque sur les données d’entraînement ;
- une modification des entrées ;
- une extraction d’informations ;
- un accès non autorisé ;
- un rançongiciel ;
- une compromission de mise à jour ;
- une perturbation du modèle.
Les conséquences peuvent être doubles :
- violation de données ;
- risque direct pour la sécurité du patient.
La cybersécurité doit donc être intégrée :
- à la conception ;
- à l’évaluation ;
- au déploiement ;
- à la maintenance ;
- à la gestion des incidents.
15. Gouvernance dans les établissements de santé
La HAS et la CNIL ont élaboré en 2026 un projet de recommandations destiné à accompagner les établissements et professionnels dans le bon usage des systèmes d’IA en contexte de soins. Le projet met l’accent sur une démarche structurée d’intégration, une gouvernance interne, la formation, l’évaluation et la protection des données. Au 28 juillet 2026, il convient de distinguer ce projet soumis à consultation des recommandations définitivement adoptées. (CNIL)
Une gouvernance pertinente comprend notamment :
- un inventaire des systèmes ;
- une analyse des finalités ;
- une qualification réglementaire ;
- une évaluation des risques ;
- une validation médicale ;
- une analyse de protection des données ;
- une politique d’achat ;
- une formation des professionnels ;
- une procédure de signalement ;
- une surveillance des performances ;
- une possibilité de suspension.
Jurisprudence
La jurisprudence française spécifiquement consacrée à une erreur médicale causée par un système d’intelligence artificielle demeure encore limitée et ne permet pas de dégager un régime autonome stabilisé.
En l’état, les litiges ont vocation à être traités à partir des catégories existantes :
- responsabilité pour faute du professionnel ;
- responsabilité de l’établissement ;
- responsabilité du fait des produits défectueux ;
- manquement à l’information ;
- défaut de sécurité ;
- violation du RGPD ;
- perte de chance ;
- défaut d’organisation du service.
Il serait donc imprudent d’affirmer qu’un régime jurisprudentiel spécifique et homogène de « responsabilité médicale algorithmique » existe déjà.
Acteurs
Patients
Ils bénéficient des droits à l’information, au consentement, à la confidentialité, à la sécurité des soins et à la protection de leurs données.
Professionnels de santé
Ils utilisent, interprètent et contrôlent les résultats, sans pouvoir abandonner leur jugement clinique.
Établissements
Ils sélectionnent et déploient les outils, organisent la formation et assurent la gouvernance.
Fabricants
Ils déterminent la finalité du produit, assurent sa conformité et surveillent ses performances.
Éditeurs et fournisseurs d’IA
Ils peuvent intervenir comme fabricants, sous-traitants, intégrateurs ou prestataires.
ANSM
Elle intervient dans la surveillance des dispositifs médicaux et la matériovigilance.
Haute Autorité de santé
Elle évalue les technologies de santé et publie des recommandations de bonnes pratiques.
CNIL
Elle contrôle les traitements de données personnelles et accompagne les projets d’IA en santé.
Organismes notifiés
Ils participent à l’évaluation de conformité de certains dispositifs médicaux.
Autorités européennes
Elles élaborent les normes relatives à l’IA, aux dispositifs médicaux, aux données et à la sécurité des produits.
Débats actuels
L’IA doit-elle rester une simple aide ?
Le modèle dominant repose sur une décision humaine. Certains systèmes prennent toutefois une place si importante que la supervision peut devenir théorique.
Faut-il informer le patient de toute utilisation ?
Une information systématique sur chaque logiciel administratif serait disproportionnée. En revanche, une information paraît nécessaire lorsque l’IA influence substantiellement la prévention, le diagnostic ou le soin.
Le médecin peut-il contredire l’IA ?
Oui. Il doit pouvoir écarter un résultat inadapté. Cette capacité suppose toutefois une formation et une interface permettant une contestation réelle.
Une IA plus performante que le médecin doit-elle être suivie ?
La supériorité statistique moyenne ne garantit pas la pertinence dans chaque cas. La sécurité dépend aussi de la population, du contexte et des conséquences de l’erreur.
Les données synthétiques résolvent-elles les problèmes de confidentialité ?
Elles peuvent réduire certains risques, mais ne garantissent pas automatiquement l’anonymat, l’absence de biais ou la validité clinique.
L’IA risque-t-elle d’accroître les inégalités ?
Oui, si les systèmes sont moins performants pour certaines populations ou si leur accès est réservé aux établissements disposant de moyens importants.
Les agents conversationnels peuvent-ils remplacer une consultation ?
Non. Ils peuvent aider à préparer ou à comprendre une consultation, mais leurs réponses peuvent être fausses, incomplètes ou inadaptées.
Actualité récente
En 2025 et 2026, l’encadrement de l’IA médicale s’est renforcé autour de plusieurs évolutions :
- publication par la HAS de premières clés d’usage de l’IA générative pour les professionnels ;
- lancement d’un partenariat HAS-CNIL sur le numérique et l’IA en santé ;
- consultation publique sur un projet de guide relatif à l’IA en contexte de soins ;
- publication par la HAS de repères destinés aux usagers ;
- entrée en application progressive de l’AI Act ;
- adoption du règlement relatif à l’Espace européen des données de santé ;
- préparation de la mise en œuvre de la nouvelle directive sur les produits défectueux. (Haute Autorité de Santé)
Ressources essentielles
Base Dabo Tibi Ius
Responsabilité et intelligence artificielle
Fiche générale sur la responsabilité civile, les produits défectueux et les chaînes d’acteurs.
Systèmes d’IA à haut risque
Présentation des critères de qualification et des obligations résultant de l’AI Act.
Catégorie Droit médical
Rubrique regroupant les articles consacrés à l’IA en santé.
Droit de l’intelligence artificielle
Portail général de veille et de fiches.
Textes français
Article L. 4001-3 du Code de la santé publique
Article L. 1111-2 du Code de la santé publique
Loi n° 2021-1017 du 2 août 2021 relative à la bioéthique
Union européenne
Règlement (UE) 2017/745 relatif aux dispositifs médicaux
Règlement (UE) 2024/1689 sur l’intelligence artificielle
Règlement (UE) 2025/327 relatif à l’Espace européen des données de santé
Directive (UE) 2024/2853 relative à la responsabilité du fait des produits défectueux
HAS et CNIL
Premières clés d’usage de l’IA générative en santé
Intelligence artificielle en santé : bien l’utiliser et bien se protéger
Partenariat HAS-CNIL sur le numérique en santé
Projet de guide sur l’IA en contexte de soins
Développer et évaluer des systèmes d’IA en santé
FAQ
Une IA médicale est-elle toujours un dispositif médical ?
Non. La qualification dépend de la finalité prévue par le fabricant. Un outil administratif ou documentaire n’est pas nécessairement un dispositif médical.
Tous les dispositifs médicaux fondés sur l’IA sont-ils à haut risque ?
Non. La qualification au titre de l’AI Act dépend notamment de la nécessité d’une évaluation de conformité par un tiers et de l’application d’une législation de l’annexe I.
Le médecin reste-t-il responsable ?
Oui, en principe, pour la décision médicale et l’utilisation de l’outil. La responsabilité du fabricant ou d’autres acteurs peut également être engagée.
Le patient doit-il être informé ?
Oui, dans les conditions du droit général à l’information et, pour certains dispositifs algorithmiques, de l’article L. 4001-3 du Code de la santé publique.
Le patient doit-il toujours consentir au traitement algorithmique ?
Le consentement aux soins et le consentement au traitement des données sont distincts. Tout dépend du contexte et de la base juridique applicable.
Les données de santé peuvent-elles servir à entraîner une IA ?
Oui, à condition de respecter le RGPD, le droit de la santé, les règles de recherche et les exigences de sécurité.
Peut-on utiliser un agent conversationnel grand public avec un dossier médical ?
Une telle utilisation est risquée si les conditions de confidentialité, d’hébergement, de conservation et de réutilisation ne sont pas maîtrisées.
Le médecin doit-il suivre la recommandation de l’IA ?
Non. Il doit exercer son jugement clinique et pouvoir écarter un résultat inadapté.
Une IA peut-elle établir seule un diagnostic ?
Certains systèmes peuvent produire une orientation diagnostique, mais la prise en charge médicale demeure en principe sous la responsabilité d’un professionnel.
Que se passe-t-il en cas d’erreur ?
La responsabilité peut concerner le professionnel, l’établissement, le fabricant ou plusieurs acteurs. Elle dépend de la cause de l’erreur et du lien avec le dommage.
Pour aller plus loin
- Intelligence artificielle en santé
- Dispositif médical
- Logiciel médical
- Système d’IA à haut risque
- Données de santé
- Secret médical
- Consentement aux soins
- Information du patient
- Responsabilité médicale
- Produits défectueux
- Espace européen des données de santé
- Recherche médicale
- Anonymisation
- Cybersécurité hospitalière
- Biais algorithmiques
- IA générative en santé
- Télémédecine
- Robotique médicale
- Explicabilité
- Supervision humaine
Méthodologie : Cette fiche a été générée avec l’assistance de l’intelligence artificielle à partir de la base documentaire et de sources juridiques complémentaires lorsque cela était nécessaire. Elle constitue une synthèse documentaire et ne remplace pas un avis juridique.
Résumé pédagogique
Définition
Le droit médical appliqué à l’intelligence artificielle regroupe les règles qui encadrent les systèmes utilisés pour prévenir, diagnostiquer, traiter ou surveiller un patient. Il concerne les droits du patient, la responsabilité des professionnels, la protection des données, la réglementation des dispositifs médicaux et l’AI Act.
Exemple
Un logiciel analyse une radiographie et signale l’absence d’anomalie. Le médecin constate cependant des symptômes inquiétants et doit poursuivre les investigations. S’il suit mécaniquement le logiciel malgré les éléments cliniques, sa responsabilité peut être discutée. Si l’erreur provient d’un défaut indétectable du dispositif, celle du fabricant peut également être recherchée.
Problématique juridique
L’IA disperse la décision entre plusieurs acteurs : concepteur, fabricant, établissement, professionnel et fournisseur de données. La difficulté consiste à préserver une décision médicale humaine, explicable et sûre, tout en identifiant le responsable lorsqu’une recommandation algorithmique cause ou contribue à un dommage.
Cadre légal
Le cadre repose principalement sur le Code de la santé publique, notamment ses articles L. 1111-2 et L. 4001-3, le RGPD, les règlements européens relatifs aux dispositifs médicaux, l’AI Act, l’Espace européen des données de santé et la directive sur les produits défectueux. Ces textes imposent notamment l’information du patient, la sécurité, la gestion des risques, la qualité des données, la supervision humaine et la traçabilité.