Les systèmes d'IA à haut risque

L'AI Act classe les systèmes d'IA en quatre niveaux de risque :

• Risque inacceptable (article 5) : pratiques interdites, dont la mise sur le marché est prohibée. Exemples : notation sociale par les pouvoirs publics, manipulation subliminale à l'insu de la personne, identification biométrique à distance en temps réel dans les espaces publics (sauf exceptions strictes).
• Haut risque (articles 6 à 49) : systèmes autorisés mais soumis aux obligations de conformité les plus strictes avant leur mise sur le marché.
• Risque limité (article 50) : obligations de transparence allégées. L'utilisateur doit être informé qu'il interagit avec une IA (exemple : chatbots, deep fakes).
• Risque minimal : aucune obligation spécifique. Exemples : filtres anti-spam, jeux vidéo intégrant de l'IA.

Les systèmes d'IA à usage général (GPAI), comme les grands modèles de langage (GPT, Claude…), font l'objet d'un régime particulier aux articles 51 à 56, distinct de la classification par risque.

Deux catégories de systèmes à haut risque (article 6 AI Act) :

• Systèmes listés à l'Annexe I — composants de sécurité de produits déjà réglementés : IA intégrée dans des jouets, véhicules, dispositifs médicaux, ascenseurs, équipements radio, etc. Ces systèmes sont soumis aux procédures de mise sur le marché existantes pour le produit concerné.
• Systèmes listés à l'Annexe III — domaines à haut risque autonomes : 8 catégories spécifiques identifiées comme présentant des risques pour les droits fondamentaux (identification biométrique, infrastructures critiques, éducation, emploi, services essentiels comme le crédit ou l'assurance, répression, migration, administration de la justice).

Les deux annexes jouent des rôles distincts dans la classification :

Annexe I — Produits réglementés intégrant de l'IA : elle liste les catégories de produits déjà soumis à une réglementation européenne de sécurité (directive jouets, règlement dispositifs médicaux, règlement véhicules à moteur, etc.). Lorsqu'un système d'IA est intégré à l'un de ces produits en tant que composant de sécurité, il est automatiquement classé à haut risque. L'objectif est d'éviter qu'une couche d'IA vienne affaiblir les garanties de sécurité de produits déjà encadrés.

Annexe III — Domaines sensibles autonomes : elle liste 8 catégories d'usages de l'IA qui sont considérés comme intrinsèquement risqués pour les droits fondamentaux, indépendamment de tout produit physique. L'objectif est de soumettre à un contrôle renforcé les applications d'IA susceptibles d'affecter des décisions importantes pour les individus (accès à l'emploi, au crédit, à la justice, contrôle aux frontières, etc.). Cette annexe peut être mise à jour par la Commission par actes délégués pour intégrer de nouveaux usages.

Les fournisseurs de systèmes d'IA à haut risque doivent : (1) Mettre en place un système de gestion des risques (article 9) ; (2) Assurer la gouvernance des données d'entraînement (article 10) ; (3) Établir une documentation technique (article 11) ; (4) Mettre en place une journalisation automatique des événements (article 12) ; (5) Garantir la transparence et fournir des instructions d'utilisation (article 13) ; (6) Prévoir une supervision humaine (article 14) ; (7) Garantir un niveau approprié d'exactitude, robustesse et cybersécurité (article 15) ; (8) Procéder à une évaluation de la conformité avant mise sur le marché.

Avant la mise sur le marché, une évaluation de la conformité est obligatoire. Selon le type de système : (1) Autoévaluation par le fournisseur avec documentation technique + déclaration UE de conformité pour la plupart des systèmes de l'Annexe III ; (2) Évaluation par un organisme notifié tiers pour les systèmes d'identification biométrique à distance en temps réel et certains systèmes de l'Annexe I. Le marquage CE est requis pour les systèmes à haut risque conformes. Les systèmes doivent être enregistrés dans la base de données EU de l'IA (article 71).