Jarich Verachtert, Consultancy Manager chez TOPdesk
Un discours rempli de citations inventées d’Einstein. Un rapport de plusieurs millions d’euros truffé d’erreurs et de sources inexistantes. Les exemples s’accumulent et illustrent une chose : quiconque fait aveuglément confiance à l’IA générative finit tôt ou tard par être démasqué. L’IA continue en effet d’halluciner, et la frontière entre information correcte et absurdité est parfois extrêmement mince.
Alors que les organisations adoptent massivement l’IA, une question cruciale reste souvent sans réponse : qui garantit son utilisation correcte et sécurisée ? Logiquement, tous les regards se tournent vers l’IT. Mais c’est précisément là que le bât blesse. Selon le rapport Inside ITSM 2026, un tiers des professionnels IT subissent déjà une forte pression de travail. Comment, dès lors, y ajouter encore la surveillance de l’IA ?
L’IA s’infiltre partout
Dans de nombreuses entreprises, l’usage de l’IA progresse plus vite que les structures internes ne peuvent suivre. Les équipes marketing génèrent du contenu, les services commerciaux font analyser des offres et les RH filtrent des CV via des systèmes automatisés. Cet enthousiasme est compréhensible, mais il se manifeste loin d’être toujours en concertation avec l’IT ou dans le respect de cadres de sécurité définis.
Sans contrôle adéquat, un cocktail dangereux se forme :
• des résultats erronés ou trompeurs,
• des décisions basées sur des données incorrectes,
• des outils accédant à des systèmes auxquels ils ne devraient pas avoir accès.
Une surveillance continue n’est donc pas un luxe, mais une nécessité. Qui vérifie l’exactitude des résultats générés ? Qui s’assure que les données sont utilisées de manière sécurisée ? Qui garantit que les applications d’IA n’accèdent qu’aux bonnes sources ?
Dans de nombreuses organisations, il n’existe aujourd’hui tout simplement pas de réponse à ces questions.
Pourquoi l’IT est indispensable dans ce rôle
L’IA exige plus que des connaissances de base en technologie. Elle requiert une compréhension des processus, des flux de données et de la manière dont l’organisation prend des décisions. Prenons un exemple simple comme un chatbot sur le helpdesk IT. Sans connexion à certains systèmes, il se limite à des conseils standard. Avec les bonnes intégrations, il peut en revanche proposer des solutions concrètes basées sur des informations système actualisées.
On peut comparer cela à l’introduction de Microsoft Teams. Là aussi, l’IT assurait la configuration, les intégrations et la gouvernance. Mais avec l’IA, la complexité est encore plus grande. Les modèles évoluent à une vitesse fulgurante et introduisent de nouveaux risques. Une implémentation ponctuelle ne suffit donc pas : une surveillance permanente est indispensable.
Pourquoi externaliser ou ignorer n’est pas une solution durable
Aujourd’hui, de nombreuses équipes IT manquent déjà de temps. Près de la moitié consacre l’essentiel de ses efforts à éteindre des incendies opérationnels et dispose à peine de marge pour un travail préventif. Seul un tiers se sent prêt pour l’avenir.
Dans ce contexte, il peut sembler tentant d’externaliser la gouvernance de l’IA ou de la confier à un autre département. Mais cela engendre de nouveaux problèmes :
• perte de contrôle sur les données de l’entreprise,
• surveillance assurée par des personnes sans bagage technique,
• manque de suivi structurel,
• vulnérabilité accrue face à des résultats d’IA erronés ou inappropriés.
L’usage de l’IA exige donc une autre approche et des choix clairs.
Cinq décisions que les organisations doivent prendre dès aujourd’hui
- Libérer du temps dans l’agenda IT
Automatiser les opérations, supprimer ou externaliser certaines tâches : il faut dégager du temps pour gérer correctement l’IA. - Investir dans le développement des compétences
Les formations sont essentielles, mais l’expertise externe peut aussi aider les équipes IT à comprendre les risques techniques et les pièges organisationnels. - Revoir les rôles et responsabilités
Un responsable IA, à l’image d’un responsable sécurité, pourrait se consacrer à plein temps à la gouvernance et au contrôle qualité. Ou bien les rôles internes doivent être réorganisés. - Adopter une approche organisationnelle globale
L’IT doit jouer un rôle de lien entre les départements afin de mettre en place une politique IA cohérente. Cela évite que chaque service expérimente de manière isolée. - Démontrer la valeur ajoutée
Communiquer régulièrement sur les bénéfices d’une bonne surveillance permet de ne pas considérer la gouvernance de l’IA comme un coût, mais comme un investissement stratégique.
Les hallucinations ne disparaîtront pas, mais les risques peuvent être maîtrisés
L’IA continuera toujours à halluciner. Ce n’est pas un bug, mais une caractéristique du système. C’est précisément pour cette raison que la surveillance n’est pas un choix, mais une obligation. Le principal défi pour l’IT reste le manque de temps, mais les organisations qui agissent dès maintenant donnent à l’IT la position nécessaire pour accompagner la transition vers l’IA de manière sûre et contrôlée.
Car si même Einstein se voit attribuer des paroles qu’il n’a jamais prononcées, une chose est claire : une bonne gouvernance n’est pas un luxe superflu, c’est une nécessité absolue.
