Auteur : Michelle Eisenberg, juriste d’entreprise chez Unit4
La gouvernance de l’IA, par laquelle les organisations définissent comment utiliser l’intelligence artificielle de manière éthique et responsable, est souvent à tort considérée uniquement comme une question d’éthique d’entreprise et d’informatique. Alors qu’elle devrait en réalité faire partie intégrante de l’ensemble de l’organisation.
Malheureusement, il n’existe pas de cadre universel pour une utilisation éthique de l’IA. L’approche de la gouvernance de l’IA varie selon les organisations et doit être fondée sur les valeurs propres de l’entreprise, sa stratégie, ses marchés et son environnement de risques.
Il est également essentiel que les organisations ne considèrent pas la gouvernance de l’IA comme une mise en œuvre ponctuelle. Il s’agit au contraire d’un cycle continu d’évaluation, de mise en œuvre, de suivi et d’ajustement en fonction des évolutions technologiques et réglementaires. En pratique, cela implique par exemple : surveiller les outils d’IA, s’adapter aux changements de réglementation et aux priorités stratégiques, et améliorer les processus en analysant ce qui fonctionne ou non.
Mais comment faire en sorte que la gouvernance de l’IA devienne une composante structurelle de votre organisation ? Les trois étapes suivantes peuvent vous y aider :
Étape 1 : Définir un cadre de gouvernance de l’IA
Commencez par identifier les éléments qui doivent faire partie de votre cadre de gouvernance de l’IA. Il peut être utile de s’appuyer sur des exigences juridiques existantes, comme le règlement européen sur l’IA (EU AI Act). En prenant ces exigences comme base, les entreprises peuvent élaborer des lignes directrices claires pour l’utilisation de l’IA, adaptées à leur environnement de travail et conformes à la législation.
Il est tout aussi important de déterminer ce qui ne doit pas faire partie de ce cadre. Par exemple, chaque nouvelle application d’IA doit-elle être évaluée dans ce cadre ? Il n’existe pas de bonnes ou de mauvaises réponses. Il peut arriver qu’un outil d’IA conforme à tous les critères de gouvernance ne soit néanmoins pas la meilleure solution pour le problème à résoudre.
Étape 2 : Intégrer la gouvernance dans les processus métier
Pour garantir une mise en œuvre effective de la gouvernance de l’IA, il est important de réaliser une analyse d’écart (GAP analysis) simple afin d’évaluer le niveau de maturité de l’organisation en matière d’IA. Tenez compte à la fois de la préparation globale de l’organisation et de celle des équipes individuelles.
Par exemple, le département informatique peut devoir préparer l’architecture nécessaire à l’IA en définissant les droits d’accès appropriés, tandis que le service juridique devra examiner les clauses contractuelles liées à l’utilisation de l’IA dans les accords avec les clients et les fournisseurs d’IA.
Ensuite, intégrez la gouvernance de l’IA dans vos processus existants. Inutile de réinventer la roue : appuyez-vous sur les contrôles déjà en place et ajoutez-y des vérifications spécifiques à l’IA. Par exemple, si votre département informatique dispose déjà de processus d’approbation en matière de sécurité et de protection des données pour d’autres outils, ceux-ci peuvent également être appliqués aux solutions d’IA.
Veillez également à assurer un suivi du respect des politiques en matière d’IA, par exemple en faisant appel à un auditeur ou à une équipe dédiée à la gouvernance de l’IA. Cette équipe peut contribuer à maintenir les normes éthiques et à garantir la transparence des algorithmes.
Étape 3 : Assurer la formation et le développement des compétences
Pour utiliser l’IA efficacement, la formation des collaborateurs est essentielle. Identifiez les compétences manquantes et choisissez des formations adaptées aux solutions d’IA qu’ils utilisent ou utiliseront.
Cela est également crucial en matière de conformité : imposez une formation en gouvernance et en conformité avant que les collaborateurs ne puissent utiliser de nouvelles solutions d’IA. Ils disposeront ainsi d’une bonne compréhension de l’utilisation responsable de l’IA et des politiques internes.
N’oubliez pas non plus de former continuellement les employés afin que leurs connaissances et compétences en matière d’IA restent à jour.
Équilibre entre vision stratégique et pratique opérationnelle
Les défis liés à la gouvernance de l’IA sont similaires dans de nombreuses organisations. Personne n’a une solution parfaite, et la diversité des outils, l’évolution de la réglementation et le rythme rapide des innovations rendent les choix complexes.
Il est crucial pour chaque organisation de développer un cadre de gouvernance adapté à sa propre situation. En fin de compte, une mise en œuvre efficace de la gouvernance de l’IA nécessite un équilibre adéquat entre vision stratégique et pratique opérationnelle. Cet équilibre contribuera tout au long du processus à une gestion du changement solide ainsi qu’à une utilisation réussie et éthique de l’IA.
