COM-E-07
Clause de responsabilité sociale et éthique de l'IA
Description / Spécifications de l'exigence
Le Titulaire garantit que les systèmes d’intelligence artificielle (SIA) développés ou intégrés dans le cadre du Marché sont conçus et exploités de manière loyale, transparente et explicable.
- Lutte contre les biais : Le Titulaire s'engage à mettre en œuvre des protocoles de test rigoureux sur les données d'entraînement et les algorithmes pour identifier et neutraliser tout biais discriminatoire (genre, origine, handicap, etc.).
- Explicabilité : Le Titulaire doit être en mesure d'expliciter la logique de décision du modèle et de fournir un niveau de transparence adapté au niveau de risque du système selon la classification de l'IA Act.
- Impact Social : Le Titulaire s'engage à réaliser une évaluation régulière des impacts de la solution sur les droits fondamentaux et les conditions de travail des utilisateurs.
Livrables
- Rapport d'audit éthique et de non-discrimination : Document certifiant les tests de biais réalisés et les mesures correctives appliquées.
- Documentation technique d'explicabilité : Note expliquant le fonctionnement du modèle, les variables d'entrée majeures et les limites de l'algorithme.
- Analyse d'Impact sur les Droits Fondamentaux (FRIA) : Pour les systèmes à haut risque, conformément aux exigences de l'IA Act.
Niveau 1 (Must have)
- Respect strict des obligations liées à la catégorie de risque du système (ex : marquage CE pour le haut risque).
- Fourniture d'une fiche d'information utilisateur claire sur l'usage d'une IA et ses finalités.
- Tests de robustesse sur des jeux de données représentatifs et non-discriminatoires.
- Garantie d'un mécanisme de "Human-in-the-loop" permettant à un opérateur d'outrepasser l'IA.
Niveau 2 (Nice to have)
- Application des critères "Haut Risque" même pour des systèmes à risque limité.
- Interface d'explicabilité (XAI) permettant à l'utilisateur final de comprendre "pourquoi" une décision a été prise.
- Certification GEEIS-AI ou audit par un cabinet tiers indépendant spécialisé en éthique algorithmique.
- Comité d'éthique dédié au projet incluant des experts externes et des représentants des parties prenantes.