Gouvernance de l’intelligence artificielle et conformité à l’IA Act

L'adoption de l’intelligence artificielle (IA) connaît une accélération significative, avec des outils comme Copilot, ChatGPT ou Gemini s’intégrant de plus en plus aux usages quotidiens, tant professionnels que personnels. Toutefois, dans les entreprises, la confiance envers cette technologie reste mitigée. En effet, les avantages potentiels offerts par l’IA se heurtent à des craintes liées à l’explicabilité des résultats, à l’éthique, à des hallucinations et risques de biais. Pour mieux encadrer la gouvernance de l’IA, L’Europe propose une charte dédiée pour promouvoir une IA responsable avec l’IA Act (Artificial Intelligence Act).

La réponse de l’Europe pour maîtriser l’IA

L’IA Act, dans sa version 2024, liste les obligations réglementaires des entreprises en matière de production et d’utilisation d’intelligence artificielle. Les entreprises devront recenser les IA de leurs écosystèmes, les classer en fonction du niveau de risque qu’elles présentent et se conformer aux exigences spécifiques à chaque catégorie. Quatre classes de risques sont définies dans l’IA Act. Les IA à risque inacceptable, telles que les systèmes de notation sociale, sont interdites. Celles à haut risque, comme la maintenance prédictive des réseaux d’énergie, sont soumises à des exigences strictes, incluant la certification CE et la documentation technique. Les IA à risque limité doivent respecter des obligations de transparence et de traçabilité, tandis que les IA à risque minimal ne sont pas régulées.

Cette classification de risques part d’une analyse des données d’entraînement de l’IA. La mise en place d’une gouvernance des données d’IA constitue le socle de cette réglementation. Les entreprises auront deux ans pour se conformer à la réglementation de l’IA Act et doivent se préparer au plus tôt. Les sanctions prévues par l’IA Act, peuvent atteindre 7 % du chiffre d’affaires annuel plafonné à 40 millions d’euros.

"Les sanctions prévues par l’IA Act, peuvent atteindre 7 % du chiffre d’affaires annuel plafonné à 40 millions d’euros"

L’approche des entreprises face à l’IA

L’IA Act est aussi une opportunité pour les entreprises pour prévenir des biais, renforcer la confiance, sécuriser les usages et accélérer sereinement l’innovation. Pour ce faire, les entreprises doivent avoir une approche méthodique.

Adaptation de l’organisation

Aujourd’hui, la gouvernance de l’IA n’est pas complètement intégrée dans l’organisation des entreprises. En fonction de l’organisation, nous assistons à la naissance de nouveaux rôles dans l’entreprise. Le Chief Model Officier, équivalent du CDO sur la partie Data, est responsable des IA sur les volets : catalogue, sécurité, traçabilité des données, performance. Le Model Owner est responsable de la conformité globale des solutions de son domaine.

Le rôle du délégué à la protection des données (DPO) évolue pour intégrer de nouvelles fonctions, notamment celles de coordonner des spécialistes de l’IA et des données. Dans le cadre des analyses d’impact relatives à la protection des données (AIPD), le DPO nécessitera également la collaboration d’un Auditeur de l’IA capable d’évaluer régulièrement les modèles d’IA pour détecter les biais et d’assurer leur conformité aux normes éthiques et réglementaires.

Le data scientist devra désormais évaluer les données à travers la sélection, la préparation, la modélisation et le déploiement, en tenant compte des préoccupations éthiques. Une nouvelle génération de Data Architect doit concevoir des politiques et des cadres pour gérer l’accès et l’utilisation des données par les systèmes d’IA, tout en assurant la qualité et la sécurité des données. Cette modification des Data Programs et Data Strategy, sera possible à travers l’aide d’un Data Steward pour l’IA connaisseur de l’impact de l’IA sur les données.

Renforcement du cadre de gouvernance de l’IA

Le CDO et l’équipe de gouvernance des données doivent se renforcer en gérant l’inventaire de leurs systèmes d’IA, en adressant l’éthique, la qualité et la traçabilité des données. Ces informations sont essentielles dans les rapports réglementaires de l’IA Act. Les architectes d’entreprises construisent des patterns d’architectures IA, patterns prenant en compte l’éthique.

Pour ce faire, les entreprises peuvent s’appuyer sur les Artificial Intelligence Management System (AIMS). Ces outils permettent de piloter, gouverner et optimiser les systèmes d’IA déployés. Avec ces outils, les équipes de gouvernance de l’IA peuvent inventorier les IA de l’entreprise, qualifier leurs conformités au regard notamment des enjeux d’éthique et de qualité des données, superviser leurs cycles de vie et monitorer leurs biais. Les entreprises peuvent définir leurs plans d’actions de mise en conformité et préparer les éléments réglementaires de l’IA Act.

Sensibilisation à l’IA

La sensibilisation et la formation des collaborateurs à l’IA et à l’IA Act sont des étapes cruciales dans ce processus de transformation. Une culture de la responsabilité autour de la gestion des données et des résultats obtenus de l’IA doit être instaurée. Cela nécessite la participation active du CDO et du DPO, qui doivent jouer un rôle de formateurs et de sensibilisateurs.

Partenor : accompagnement pour une IA responsable

Avec ses experts (Architectes, AI, DP/CP et experts en gouvernance des données), Partenor Digital accompagne ses clients pour répondre aux ambitions autour de l’IA générative, avec des interventions en :

- Transformation digitale : audit, feuille de route, transformation organisationnelle afin d’adresser l’IA ;

- Acculturation, idéation : acculturation des dirigeants, benchmark des principaux cas d’usage et solutions ;

- Accompagnement à la mise en place du cadre de gouvernance ;

- Expérimentation : développement de POC, identification des prérequis techniques/métiers pour l’industrialisation, business cases ;

- Industrialisation : co-développement de modèles d’IA générative, développement des cas d’usage, tests, intégration dans le SI Métier, transformation des processus ;

- Sensibilisation et formation des équipes à l’IA générative et les impacts associés

SUR L’AUTEUR

Expert en nouvelles technologies et dans les services numériques, Olivier Quéméneur est directeur général adjoint du cabinet de conseil Partenor Digital.