Règlement (UE) 2024/1689, articles 6 et 7
Classification à haut risque sous l'AI Act : les deux voies de l'article 6 et la dérogation qui n'en est pas une
La qualification de « haut risque » commande l'essentiel des obligations de l'AI Act. Elle ne se déduit ni du secteur d'activité, ni de la technologie employée, ni du niveau de risque ressenti par l'organisation : elle résulte d'un test à deux branches posé par l'article 6 du règlement (UE) 2024/1689. La seconde branche comporte une dérogation dont l'usage est plus coûteux que ce que son intitulé laisse penser.
Par Younès Lahrach, juriste RGPD et DPO externe, directeur de Sila International Advisory. Première parution le , dernière revue au regard des textes le .
Première voie : le système est un composant de sécurité d'un produit réglementé
L'article 6.1 qualifie de haut risque tout système d'IA qui remplit deux conditions cumulatives. D'une part, le système est destiné à être utilisé comme composant de sécurité d'un produit couvert par l'un des actes d'harmonisation de l'Union énumérés à l'annexe I, ou constitue lui-même un tel produit. D'autre part, ce produit doit faire l'objet d'une évaluation de la conformité par un tiers en vue de sa mise sur le marché ou de sa mise en service, en application de ces mêmes actes.
L'annexe I rassemble des régimes sectoriels préexistants : machines, jouets, ascenseurs, équipements radioélectriques, dispositifs médicaux, aviation civile, véhicules à moteur, équipements marins, entre autres. Une entreprise déjà soumise à l'un de ces régimes ne découvre donc pas une obligation nouvelle de qualification : elle vérifie si la fonction confiée à l'IA relève de la sécurité du produit, et si son produit relève bien de l'évaluation par tiers.
La conséquence pratique est procédurale. L'article 43.3 prévoit que, pour ces systèmes, l'évaluation de conformité au titre de l'AI Act s'intègre dans la procédure sectorielle existante plutôt que de s'y ajouter comme une démarche séparée.
Seconde voie : le système relève d'un des huit domaines de l'annexe III
L'article 6.2 renvoie à l'annexe III, qui énumère les cas d'usage réputés à haut risque indépendamment du produit dans lequel le système s'insère. C'est cette voie qui concerne la majorité des organisations qui déploient de l'IA sans fabriquer de produit réglementé.
1. Biométrie
Systèmes d'identification biométrique à distance, systèmes de catégorisation biométrique selon des attributs sensibles, et systèmes de reconnaissance des émotions, dans la mesure où leur usage n'est pas interdit par l'article 5.
2. Infrastructures critiques
Composants de sécurité dans la gestion et l'exploitation des infrastructures numériques critiques, du trafic routier, et de la fourniture d'eau, de gaz, de chauffage et d'électricité.
3. Éducation et formation professionnelle
Décisions d'admission et d'affectation, évaluation des acquis, évaluation du niveau d'enseignement approprié, et surveillance des comportements interdits lors des examens.
4. Emploi, gestion de la main-d'œuvre et accès à l'emploi indépendant
Recrutement et sélection, en particulier le placement d'offres ciblées, le filtrage des candidatures et l'évaluation des candidats ; puis les décisions affectant les conditions de travail, la promotion, la résiliation, l'attribution des tâches et le suivi des performances. C'est le domaine qui expose le plus grand nombre d'organisations, y compris celles dont l'activité n'a rien de technologique.
5. Accès aux services privés essentiels et aux services et prestations publics
Évaluation de l'éligibilité aux prestations publiques, évaluation de la solvabilité et établissement des scores de crédit, tarification et évaluation des risques en assurance vie et santé, et classement des appels d'urgence.
6. Répression
Usages par les autorités répressives ou pour leur compte, notamment l'évaluation du risque de commission d'une infraction, les polygraphes, l'évaluation de la fiabilité des preuves et le profilage.
7. Migration, asile et contrôle aux frontières
Polygraphes, évaluation des risques présentés par une personne, examen des demandes d'asile, de visa et de titre de séjour, et détection ou identification des personnes.
8. Administration de la justice et processus démocratiques
Assistance à l'autorité judiciaire dans la recherche et l'interprétation des faits et du droit, et systèmes destinés à influencer le résultat d'une élection ou le comportement électoral.
La dérogation de l'article 6.3 : une décision à documenter, pas une sortie du champ
L'article 6.3 permet d'écarter la qualification de haut risque pour un système relevant pourtant de l'annexe III, lorsque ce système ne présente pas de risque important de préjudice pour la santé, la sécurité ou les droits fondamentaux, notamment parce qu'il n'a pas d'influence substantielle sur le résultat de la prise de décision.
Le texte encadre étroitement cette appréciation en énumérant les situations dans lesquelles elle peut être retenue : le système est destiné à accomplir une tâche procédurale étroite ; il vise à améliorer le résultat d'une activité humaine préalablement achevée ; il détecte des constantes ou des écarts par rapport à des constantes de décision antérieures sans se substituer à l'évaluation humaine ni l'influencer sans examen humain approprié ; ou il accomplit une tâche préparatoire à une évaluation relevant de l'annexe III.
Une exception traverse ces quatre cas : le système qui effectue un profilage de personnes physiques reste, en tout état de cause, à haut risque.
L'article 6.4 tire la conséquence procédurale de la dérogation. Le fournisseur qui l'invoque doit documenter son évaluation avant la mise sur le marché ou la mise en service, enregistrer ce système dans la base de données de l'Union prévue à l'article 49, et fournir cette documentation aux autorités nationales compétentes sur demande.
Autrement dit, invoquer la dérogation ne revient pas à sortir du règlement. C'est un choix de régime, soumis à une charge de documentation et à une obligation d'enregistrement qui n'existeraient pas si le système n'entrait pas du tout dans le champ de l'annexe III. Une organisation qui espère s'en servir pour éviter l'analyse doit savoir qu'elle s'engage à produire cette analyse.
Ce que la qualification déclenche, et pour qui
La classification ne dit pas seulement si le règlement s'applique : elle dit lesquelles de ses obligations s'appliquent, et à quel acteur. Les obligations les plus lourdes du chapitre III, section 2, pèsent sur le fournisseur du système : système de gestion des risques, gouvernance des données d'entraînement, documentation technique, enregistrement des événements, transparence, contrôle humain, exactitude, robustesse et cybersécurité.
Le déployeur, lui, relève de l'article 26, dont les obligations sont d'une autre nature : utiliser le système conformément à la notice, confier le contrôle humain à des personnes compétentes et disposant de l'autorité nécessaire, surveiller le fonctionnement, conserver les journaux, et informer les personnes concernées. C'est une distinction déterminante : une organisation qui achète un outil de présélection de candidatures n'endosse pas les obligations du fournisseur, mais elle n'est pas pour autant hors du règlement.
L'article 25 renverse cette répartition dans trois hypothèses : le déployeur qui appose son nom ou sa marque sur un système à haut risque déjà mis sur le marché, celui qui apporte une modification substantielle à un tel système, et celui qui modifie la destination d'un système, y compris à usage général, de telle sorte qu'il devient à haut risque, est réputé fournisseur et supporte les obligations correspondantes.
L'intervention correspondante
La classification est le premier livrable d'un diagnostic AI Act : elle détermine le régime applicable, l'échéance qui vous concerne et la répartition des obligations entre vous et vos fournisseurs.
Qualifier vos systèmes d'IA et construire le plan de conformitéTextes et sources cités
- Règlement (UE) 2024/1689, texte au JOUE
- Commission européenne, portail sur la législation relative à l'IA
Cette analyse est d'ordre général et ne constitue pas une consultation juridique portant sur une situation déterminée. Sila n'est pas un cabinet d'avocats et n'exerce pas la représentation en justice.