Fiche – Biais algorithmiques

17 juin 2026.

Présentation générale

Les biais algorithmiques désignent les effets par lesquels un algorithme ou un système d’intelligence artificielle produit, reproduit ou amplifie des différences de traitement injustifiées entre des personnes ou groupes de personnes.

Ils ne résultent pas nécessairement d’une intention discriminatoire. Ils peuvent provenir :

  • de données incomplètes ou non représentatives ;
  • d’historiques sociaux déjà discriminatoires ;
  • de choix de conception ;
  • de variables indirectement discriminantes ;
  • d’un mauvais contexte de déploiement ;
  • d’une interprétation humaine excessive des résultats algorithmiques.

La base documentaire Dabo Tibi Ius met en évidence trois axes principaux : les biais comme enjeu de non-discrimination, les biais comme problème de gouvernance technique et les biais comme facteur de responsabilité humaine.

Sources Dabo Tibi Ius principales :

Points essentiels

  • Un biais algorithmique n’est pas toujours illégal.
  • Il devient juridiquement critique lorsqu’il produit une discrimination directe ou indirecte.
  • Les biais peuvent apparaître à toutes les étapes du cycle de vie d’un système d’IA.
  • Les domaines sensibles sont notamment le recrutement, le crédit, l’assurance, la santé, la justice, la sécurité et l’administration.
  • Le RGPD, le droit de la non-discrimination et l’AI Act constituent le socle juridique principal.
  • L’AI Act impose des obligations spécifiques de gouvernance des données pour les systèmes à haut risque.
  • La prévention des biais suppose des tests, audits, contrôles humains, mécanismes de traçabilité et procédures de recours.

Définition et typologie

Biais de données

Ils proviennent de données d’entraînement incomplètes, déséquilibrées ou historiquement marquées par des discriminations.

Exemple : un outil de recrutement entraîné sur des décisions passées peut reproduire des préférences historiques défavorables aux femmes, aux seniors ou à certains parcours atypiques.

L’article Dabo Tibi Ius consacré aux actions contre les logiciels de recrutement utilisés par Workday illustre ce risque : des candidats américains reprochent à des outils RH d’avoir éliminé leurs candidatures sur des critères autres que leurs qualifications, notamment l’âge.

Source :
Aux États-Unis, des demandeurs d’emploi attaquent des logiciels de recrutement utilisant l’IA, pour discrimination par l’âge, 9 avril 2026
https://dabotibius.ai/aux-etats-unis-des-demandeurs-demploi-attaquent-des-logiciels-de-recrutement-utilisant-lia-pour-discrimination-par-lage/

Biais de conception

Ils résultent des choix opérés par les concepteurs :

  • choix des variables ;
  • pondération des critères ;
  • définition de l’objectif à optimiser ;
  • indicateurs de performance retenus.

Un système peut être techniquement performant tout en produisant des effets socialement ou juridiquement contestables.

Biais de déploiement

Un outil conçu pour un contexte déterminé peut devenir biaisé lorsqu’il est utilisé dans un autre environnement.

Biais d’interprétation humaine

Le biais peut aussi naître de la confiance excessive accordée à la machine. Un recruteur, un assureur, un banquier ou un agent public peut être tenté de suivre une recommandation algorithmique sans exercer de contrôle réel.

Cadre juridique

1. AI Act

Le Règlement (UE) 2024/1689 du 13 juin 2024 constitue le texte central de l’Union européenne sur l’intelligence artificielle.

Texte officiel :
https://eur-lex.europa.eu/eli/reg/2024/1689/oj/fra

Pour les systèmes d’IA à haut risque, l’AI Act impose notamment :

  • un système de gestion des risques ;
  • une gouvernance des données ;
  • une documentation technique ;
  • une traçabilité ;
  • une transparence envers les utilisateurs ;
  • une supervision humaine ;
  • une robustesse et une cybersécurité adaptées.

L’article 10 est particulièrement important : il impose que les jeux de données utilisés soient pertinents, suffisamment représentatifs, aussi exempts que possible d’erreurs et adaptés à la finalité poursuivie. Cette exigence vise directement les risques de biais.

Source Dabo Tibi Ius :
2026–2027 : Vers un recrutement plus sûr, mais plus exigeant basé sur l’AI Act, 20 mars 2026
https://dabotibius.ai/2026-2027-vers-un-recrutement-plus-sur-mais-plus-exigeant-base-sur-lai-act/

2. RGPD

Le RGPD demeure central lorsque le système traite des données personnelles.

Texte officiel :
https://eur-lex.europa.eu/eli/reg/2016/679/oj/fra

Les dispositions les plus importantes sont :

  • article 5 : licéité, loyauté, transparence, exactitude ;
  • article 9 : données sensibles ;
  • articles 12 à 15 : information et accès ;
  • article 22 : décisions individuelles automatisées.

Un biais algorithmique peut révéler un traitement déloyal, inexact ou insuffisamment transparent.

3. Droit de la non-discrimination

Les biais algorithmiques se rattachent également au droit de la non-discrimination.

En droit français, les critères prohibés incluent notamment l’origine, le sexe, l’âge, le handicap, l’orientation sexuelle, la religion, l’état de santé, la situation familiale ou les opinions politiques.

Le point central est le suivant : le recours à un algorithme ne neutralise pas l’interdiction des discriminations. Une discrimination indirecte peut être constituée même si le critère prohibé n’est pas explicitement utilisé, dès lors qu’une variable apparemment neutre produit un effet défavorable sur un groupe protégé.

Source Dabo Tibi Ius :
L’égalité sous algorithme : comment (re)penser la notion de discrimination en droit européen ?, 9 février 2026
https://dabotibius.ai/legalite-sous-algorithme-comment-repenser-la-notionde-discrimination-en-droit-europeen/

Applications sectorielles

Recrutement et ressources humaines

Le recrutement est l’un des domaines les plus sensibles.

Les outils d’IA peuvent intervenir pour :

  • trier des CV ;
  • classer des candidats ;
  • analyser des entretiens vidéo ;
  • prédire la performance future ;
  • détecter des profils jugés compatibles avec l’entreprise.

La base Dabo Tibi Ius montre que ce domaine concentre les risques de discrimination par l’âge, le sexe, l’origine sociale ou le parcours professionnel.

Sources DTI :

Égalité professionnelle et professions juridiques

La question des biais ne concerne pas seulement les grandes plateformes ou les outils RH. Elle touche aussi les professions juridiques.

L’article DTI sur l’engagement des avocats pour la parité montre que les biais de l’IA sont désormais intégrés aux réflexions professionnelles sur l’égalité, la représentation et les carrières.

Source :
Les avocats s’engagent pour la parité en dénonçant les biais de l’IA, 25 mars 2026
https://dabotibius.ai/les-avocats-sengagent-pour-la-parite-en-denoncant-les-biais-de-lia/

Finance, crédit et assurance

Dans la finance, les biais peuvent affecter :

  • l’octroi de crédit ;
  • la notation de solvabilité ;
  • l’évaluation du risque ;
  • l’accès à l’assurance ;
  • l’indemnisation.

Source DTI :
IA et finance : vers une automatisation totale de la décision économique ?, 14 mai 2026
https://dabotibius.ai/ia-et-finance-vers-une-automatisation-totale-de-la-decision-economique/

En assurance, les systèmes d’IA peuvent contribuer à plafonner ou orienter les offres d’indemnisation, ce qui soulève des enjeux d’égalité de traitement des victimes.

Source DTI :
L’IA au service des assureurs : une nouvelle menace silencieuse pour l’indemnisation des victimes de dommages corporels, 17 avril 2026
https://dabotibius.ai/lia-au-service-des-assureurs-une-nouvelle-menace-silencieuse-pour-lindemnisation-des-victimes-de-dommages-corporels/

Lutte contre le blanchiment

Les systèmes d’IA utilisés dans la lutte contre le blanchiment peuvent améliorer la détection des opérations suspectes, mais ils soulèvent aussi des questions de présomption d’innocence, de protection des données et de responsabilité algorithmique.

Source DTI :
L’intelligence artificielle dans la lutte contre le blanchiment : entre efficacité algorithmique et droits fondamentaux, 2 avril 2026
https://dabotibius.ai/lintelligence-artificielle-dans-la-lutte-contre-le-blanchiment-entre-efficacite-algorithmique-et-droits-fondamentaux/

Information et opinion publique

Les biais algorithmiques ne concernent pas seulement les décisions individuelles. Ils affectent aussi la manière dont l’information est hiérarchisée, formulée et présentée.

L’article DTI Quand les IA cadrent l’information et façonnent notre vision du monde souligne que les grands modèles de langage peuvent privilégier certains récits, angles ou formulations, même lorsque les faits rapportés sont exacts.

Source :
https://dabotibius.ai/quand-les-ia-cadrent-linformation-et-faconnent-notre-vision-du-monde/

Défense et sécurité

Dans les usages militaires, les biais peuvent avoir des conséquences extrêmes, notamment lorsque des systèmes sont utilisés pour identifier des cibles ou évaluer des menaces.

Source DTI :
La guerre à l’heure de l’IA : comment les algorithmes bousculent l’éthique militaire, 12 avril 2026
https://dabotibius.ai/la-guerre-a-lheure-de-lia-comment-les-algorithmes-bousculent-lethique-militaire/

Jurisprudence

CJUE, 7 décembre 2023, SCHUFA Holding, C-634/21

La Cour de justice de l’Union européenne a jugé qu’un score de solvabilité établi automatiquement peut relever de l’article 22 du RGPD lorsqu’il joue un rôle déterminant dans la décision prise à l’égard d’une personne.

Décision :
https://curia.europa.eu/juris/document/document.jsf?docid=280428

Cette décision est importante pour les biais algorithmiques car elle rattache les systèmes de scoring automatisé aux garanties du RGPD, notamment lorsque leurs effets sont déterminants pour l’accès au crédit ou à un service essentiel.

Contentieux RH et discrimination

Les contentieux américains contre Workday, recensés par Dabo Tibi Ius, illustrent une tendance appelée à se développer : les candidats contestent non seulement la décision de recrutement, mais aussi l’outil algorithmique qui a contribué au rejet.

Source DTI :
https://dabotibius.ai/aux-etats-unis-des-demandeurs-demploi-attaquent-des-logiciels-de-recrutement-utilisant-lia-pour-discrimination-par-lage/

Acteurs

Les acteurs principaux sont :

  • les fournisseurs de systèmes d’IA ;
  • les employeurs et recruteurs ;
  • les banques, assureurs et plateformes ;
  • les administrations ;
  • les auditeurs techniques ;
  • la CNIL ;
  • le Défenseur des droits ;
  • l’AI Office ;
  • les juridictions nationales et européennes ;
  • les organisations professionnelles et syndicats.

Débats actuels

Tous les biais sont-ils discriminatoires ?

Non. Un biais statistique peut être techniquement mesurable sans être juridiquement illicite.

Il devient problématique lorsqu’il produit une différence de traitement contraire au droit, notamment une discrimination directe ou indirecte.

Peut-on supprimer tous les biais ?

Non. L’objectif juridique réaliste est de :

  • détecter les biais ;
  • les documenter ;
  • les réduire ;
  • tester les effets du système ;
  • mettre en place une supervision humaine ;
  • prévoir des voies de recours.

La régulation est-elle technique ou juridique ?

Les deux dimensions sont indissociables.

L’entretien DTI avec Alex Combessie, cofondateur de Giskard, insiste sur le fait que la conformité de l’IA passe par des tests techniques concrets : détection des biais, hallucinations, vulnérabilités et failles de robustesse.

Source :
Alex Combessie (Giskard) : “La régulation de l’IA est plus un défi technique qu’un enjeu juridique”, 29 mars 2026
https://dabotibius.ai/alex-combessie-giskard-la-regulation-de-lia-est-plus-un-defi-technique-quun-enjeu-juridique/

Actualité récente

La veille Dabo Tibi Ius montre une montée en puissance des biais algorithmiques dans plusieurs champs :

  • recrutement automatisé ;
  • égalité professionnelle ;
  • scoring financier ;
  • assurance ;
  • lutte contre le blanchiment ;
  • information générée par IA ;
  • usages militaires ;
  • conformité AI Act.

Cette actualité confirme que les biais algorithmiques ne sont plus seulement un sujet d’éthique : ils deviennent un objet de contentieux, de conformité et de responsabilité.

FAQ

Un biais algorithmique est-il toujours illégal ?

Non. Il devient juridiquement problématique lorsqu’il produit ou favorise une discrimination, une atteinte aux droits fondamentaux ou une décision injustifiée.

Les biais viennent-ils seulement des données ?

Non. Ils peuvent aussi provenir de la conception du système, de l’objectif optimisé, du contexte d’utilisation ou de l’interprétation humaine.

L’AI Act traite-t-il des biais ?

Oui. Les obligations relatives aux systèmes à haut risque, notamment la gouvernance des données, la gestion des risques et la supervision humaine, visent directement la prévention des biais.

Le RGPD protège-t-il contre les biais ?

Oui, indirectement. Il impose notamment des principes de loyauté, d’exactitude, de transparence et encadre certaines décisions automatisées.

Qui est responsable en cas de biais discriminatoire ?

Selon les cas, la responsabilité peut incomber au fournisseur, au déployeur, à l’employeur, à l’administration ou à l’utilisateur professionnel.

Ressources essentielles

Textes

AI Act – Règlement (UE) 2024/1689
https://eur-lex.europa.eu/eli/reg/2024/1689/oj/fra

RGPD – Règlement (UE) 2016/679
https://eur-lex.europa.eu/eli/reg/2016/679/oj/fra

Charte des droits fondamentaux de l’Union européenne
https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=CELEX:12012P/TXT

Code pénal – discriminations
https://www.legifrance.gouv.fr/codes/id/LEGISCTA000006149832/

Code du travail – principe de non-discrimination
https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000033975382/

Articles Dabo Tibi Ius cités

Pour aller plus loin

Notions connexes :

  • discrimination algorithmique ;
  • transparence algorithmique ;
  • explicabilité ;
  • audit des systèmes d’IA ;
  • systèmes d’IA à haut risque ;
  • décisions automatisées ;
  • gouvernance des données ;
  • supervision humaine ;
  • responsabilité algorithmique.

Méthodologie : Cette fiche a été générée avec l’assistance de l’intelligence artificielle à partir de la base documentaire Dabo Tibi Ius et de sources juridiques complémentaires lorsque cela était nécessaire. Elle constitue une synthèse documentaire et ne remplace pas un avis juridique.

Résumé pédagogique

Définition

Les biais algorithmiques désignent les effets par lesquels un système d’IA produit ou amplifie des différences de traitement injustifiées entre personnes ou groupes de personnes.

Exemple

Un logiciel de recrutement peut défavoriser les candidats âgés ou les femmes s’il a été entraîné sur des données historiques reproduisant des pratiques discriminatoires.

Problématique juridique

La question centrale est de déterminer quand un biais technique devient une discrimination juridiquement sanctionnable et qui doit en répondre : fournisseur, employeur, administration ou utilisateur.

Cadre légal

Le cadre repose principalement sur l’AI Act, le RGPD, le droit de la non-discrimination, le Code du travail et les principes fondamentaux d’égalité. Les obligations portent sur la qualité des données, la gestion des risques, la transparence, l’audit et la supervision humaine.

Fiches Dabo Tibi Ius associées :

Articles connexes