AI ActAI ActInterdictionsDroits fondamentaux
Les pratiques d'IA interdites (article 5 AI Act)
L'article 5 du Règlement (UE) 2024/1689 (AI Act) pose l'interdit absolu : certaines pratiques d'intelligence artificielle sont incompatibles avec les valeurs fondamentales de l'Union européenne et sont purement et simplement prohibées, sans possibilité de dérogation. Contrairement aux systèmes à haut risque qui peuvent être mis sur le marché sous conditions, les systèmes visés à l'article 5 ne peuvent pas l'être du tout.
Les 8 catégories de pratiques interdites (article 5)
L'article 5 AI Act interdit les pratiques suivantes :
- Manipulation subliminale : systèmes d'IA qui utilisent des techniques subliminales agissant à l'insu de la personne, de nature à altérer son comportement de manière à lui causer ou à causer à un tiers un préjudice notable.
- Exploitation des vulnérabilités : systèmes exploitant les vulnérabilités liées à l'âge, au handicap ou à la situation sociale ou économique d'une personne pour influencer son comportement de manière préjudiciable.
- Notation sociale (social scoring) : systèmes d'évaluation ou de classification des personnes physiques par les pouvoirs publics sur la base de leur comportement social ou de caractéristiques personnelles, entraînant un traitement défavorable.
- Identification biométrique à distance en temps réel dans les espaces publics par les autorités répressives — sauf exceptions strictement encadrées (recherche d'une personne disparue, prévention d'une menace terroriste imminente, localisation d'un suspect).
- Identification biométrique à distance a posteriori dans les espaces publics par les autorités répressives, sauf autorisation judiciaire préalable pour des infractions graves.
- Inférence des émotions sur le lieu de travail et dans les établissements d'enseignement (sauf à des fins médicales ou de sécurité).
- Catégorisation biométrique déduisant des caractéristiques sensibles (opinion politique, appartenance syndicale, croyances religieuses, orientation sexuelle, origine raciale ou ethnique) à partir de données biométriques.
- Constitution de bases de données de reconnaissance faciale par aspiration non ciblée d'images faciales sur internet ou depuis des enregistrements de vidéosurveillance.
L'identification biométrique à distance — focus sur les exceptions
L'interdiction de l'identification biométrique à distance en temps réel dans les espaces publics est l'une des dispositions les plus débattues. Elle comporte des exceptions strictement encadrées permettant aux autorités répressives de l'utiliser :
- Recherche ciblée d'une victime spécifique (enfant disparu, personne victime de traite).
- Prévention d'une menace terroriste spécifique, réelle et imminente.
- Localisation ou identification d'une personne soupçonnée d'avoir commis une infraction pénale grave (terrorisme, traite d'êtres humains, exploitation sexuelle, meurtre, enlèvement, etc.).
Sanctions en cas de violation de l'article 5
Les violations des interdictions de l'article 5 sont sanctionnées par les amendes les plus élevées de l'AI Act :
- 35 millions d'euros ou 7 % du chiffre d'affaires mondial annuel total de l'exercice précédent (le montant le plus élevé est retenu).
Articles clés à connaître
- Article 5 AI ActListe exhaustive des pratiques d'IA interdites : 8 catégories incompatibles avec les droits fondamentaux de l'UE.
- Article 5(1)(d) AI ActInterdiction de l'identification biométrique à distance en temps réel dans les espaces publics, avec exceptions strictes pour les autorités répressives.
- Article 99(3) AI ActSanctions pour violation des interdictions de l'article 5 : jusqu'à 35 millions € ou 7 % du CA mondial annuel.
💡 Exemple concret
Une entreprise déploie un système d'IA sur son lieu de travail qui analyse les expressions faciales de ses employés en temps réel pour évaluer leur engagement et leur satisfaction. Ce système entre dans la catégorie des interdictions de l'article 5 (inférence des émotions sur le lieu de travail). Son déploiement est illégal depuis le 2 février 2025, quelle que soit la performance technique du système ou le consentement des salariés. La sanction peut atteindre 35 millions d'euros ou 7 % du chiffre d'affaires mondial.
Pièges à éviter
- ⚠Les interdictions de l'article 5 sont les premières à s'appliquer (depuis le 2 février 2025), avant même les obligations sur les systèmes à haut risque.
- ⚠L'identification biométrique à distance en temps réel est interdite par principe — les exceptions ne concernent que les autorités répressives et non les entreprises privées.
- ⚠Le social scoring est interdit pour les pouvoirs publics — mais rien n'interdit explicitement des formes de notation sociale par des entreprises privées (ex : scores de crédit), sous réserve du RGPD.
- ⚠L'inférence des émotions est interdite au travail et à l'école — mais pas dans tous les contextes (ex : recherche médicale, sécurité).
L'essentiel à retenir
- ✓8 catégories de pratiques interdites par l'article 5, sans possibilité de dérogation.
- ✓Applicables depuis le 2 février 2025 — premières dispositions de l'AI Act en vigueur.
- ✓Sanction maximale : 35 millions € ou 7 % du CA mondial (les amendes les plus élevées de l'AI Act).
- ✓Identification biométrique à distance en temps réel dans les espaces publics : interdite sauf exceptions strictes réservées aux autorités répressives.
- ✓Social scoring par les pouvoirs publics : interdit. Inférence des émotions au travail et à l'école : interdit.