Sans garde-fous, la démocratisation des usages vire au désordre

Depuis le déploiement de Live Intelligence en interne, les équipes d’Orange Business le ressentent au quotidien. C’est l’adoption massive de l’IA qui crée véritablement de la valeur. 

Un constat récemment confirmé par une étude McKinsey. Pour les experts du cabinet, “la confiance […] est la base de l’adoption des produits et services alimentés par l’IA”. Selon eux, “logiquement, si vos clients ou vos collaborateurs n’obtiennent pas de résultats fiables avec des systèmes d’IA, ils ne les utiliseront pas”. 

De son côté, Deloitte, indique que les entreprises qui affichent un niveau élevé d’utilisation quotidienne de l’IA générative en tirent de réels avantages : 86 % d’entre elles déclarent avoir atteint ou dépassé le ROI attendu. L’enseignement est limpide : sans confiance, point d’adoption. Et sans adoption, point de valeur ! 

Mais impossible de susciter la confiance sans un cadre de gouvernance solide. Lors du déploiement de notre IA générative, nous avons bien sûr veillé au respect scrupuleux des réglementations en vigueur. Mais il était également clair que rédiger une politique de gouvernance ne suffirait pas à créer la confiance comme par enchantement.

Pour cette raison, la responsabilité est à la base de chaque initiative en matière d’IA. Orange Business a instauré un modèle solide de gouvernance de l’IA, responsable et éthique. Il est conçu pour répondre aux exigences de l’IA Act européen mais va bien au-delà du respect du cadre légal. Il est pensé pour faciliter la confiance numérique, elle-même considérée comme un atout stratégique plutôt qu’une contrainte.

L’IA Act est devenu l’un des cadres réglementaires les plus influents au monde en matière d’intelligence artificielle. Pour Orange Business, la conformité est un sujet non négociable. Il constitue même pour nous un véritable facteur de différenciation stratégique sur notre marché. La conformité des solutions d’IA nous sert de boussole pour adapter nos offres, ajuster nos processus internes et renforcer la traçabilité. Et ce, des spécifications et choix techniques jusqu’au déploiement des solutions.

La création d’une structure de gouvernance qui place l’éthique au cœur des décisions a été le premier jalon. Traduction concrète ? Un comité dédié à l’IA responsable, composé de responsables de l’éthique de l’IA et d’experts du droit, de la cybersécurité, de la protection des données et de la RSE, examine chaque projet d’IA avant sa mise sur le marché. Avec un mandat clair : garantir la transparence, limiter les risques et maintenir la responsabilité tout au long du cycle de vie des systèmes d’IA.

Chaque cas d’usage, qu’il s’agisse de développer des fonctionnalités d’IA générative expérimentales ou de déployer pour un client grand compte, fait obligatoirement l’objet d’une évaluation des risques. Cette évaluation va notamment définir le niveau adéquat de supervision des outils. À ce stade, les risques potentiels sont également recensés, pour déterminer les mesures d’atténuation à prendre. Les projets considérés comme sensibles ou à haut risque bénéficient d’un examen approfondi et de conseils personnalisés. Tandis que les initiatives plus agiles et jugées moins risquées se déploient plus rapidement grâce à une évaluation simplifiée.

Ce modèle de gouvernance flexible repose sur les principes d’une IA responsable by design. Incontournables, la supervision humaine, l’explicabilité, le contrôle des biais, la confidentialité by design et la cyber-résilience sont intégrés aux produits de l’entreprise dès les premières phases de conception. Orange Business applique également des méthodologies d’IA peu gourmandes en ressources et en énergie. Un engagement tangible en faveur de la durabilité dans l’innovation numérique.

Par ailleurs, nous nous préparons actuellement à l’obtention de l’ISO 42001, la future norme mondiale relative aux systèmes de gestion de l’IA. Signe, notamment, de notre engagement à long terme en faveur d’une automatisation fiable.

Pour insuffler une culture de l’IA responsable à l’échelle de l’entreprise, plusieurs milliers de collaborateurs d’Orange Business suivent régulièrement des formations sur l’éthique. Leurs connaissances sur ces questions se renforcent à mesure de l’adoption des technologies. Ce strict niveau d’exigence s’applique à nos fournisseurs et partenaires technologiques : ils doivent respecter les mêmes normes éthiques et réglementaires que les nôtres.

Tous nos processus s’inspirent de notre Charte d’éthique des données et de l’IA, qui fixe des règles internes claires : transparence, équité, gouvernance rigoureuse et responsabilité humaine. Des critères essentiels pour évoluer dans un environnement performant et innovant. Mais surtout sécurisant. Que produit réellement une gouvernance solide ? Un cadre pour profiter pleinement du formidable potentiel de l’IA générative, tout en maîtrisant ses risques spécifiques.

Notre Charte présente sans détour les risques et les avantages potentiels de cette technologie. Elle précise notre cadre de gouvernance, expose les mesures de protection des données personnelles et décrit les conditions d’utilisation encadrant un usage responsable.

Alors que l’accès à l’IA générative ne fait qu’augmenter, il devient crucial de mettre en place des conditions qui garantissent le respect des cadres éthiques. Impossible pour les entreprises de faire l’impasse sur des politiques claires sur l’utilisation des données, la confidentialité et la transparence. Sans oublier le volet formation pour aider les collaborateurs à se conformer à ces normes. 

Mais une adoption éthique de l’IA ne se limite pas à la conformité. Elle doit s’inscrire dans un véritable engagement en faveur d’une intelligence artificielle responsable. Et de là peut naître et se développer une confiance durable parmi les collaborateurs, les clients et les partenaires.

La responsabilité est aussi un facteur de durabilité. Orange Business s’engage à réduire l’empreinte environnementale de ses systèmes d’IA. Cela passe par : 

• des modèles écoconçus,
• une évaluation de la consommation d’énergie
• une sensibilisation des équipes à des pratiques numériques plus durables.

Nous sommes convaincus que l’innovation va de pair avec un accès massif à la technologie. Demandez à vos collaborateurs en première ligne dans les processus métier, ils savent. Ce sont eux qui connaissent le mieux les domaines dans lesquels l’IA générative apporte le maximum de valeur. Notre solution Live Intelligence n’a donc pas été réservée à un groupe limité mais bel et bien mise à disposition de l’ensemble de nos collaborateurs. Des règles très claires ont d’ailleurs encadré cette vaste phase d’expérimentation. 

Mais il a fallu définir des procédures, clarifier les responsabilités et encourager la transparence. Une gouvernance n’est efficace que lorsqu’elle met en place les garde-fous ouvrant la voie à une innovation responsable. Sans ce cadre précis et sans supervision, les entreprises jouent gros : risque de fuites de données, menaces pour leur réputation, sanctions réglementaires... 

Le shadow IA est le cauchemar de toute entreprise. L’utilisation non autorisée d’outils d’IA par des collaborateurs qui souhaitent profiter des avantages de l’IA générative, sans cadre, sans norme, en dehors de tout protocole établi, fait peser une menace forte sur la sécurité IT. Fuites de données involontaires, qualité inégale des résultats, défauts de conformité ne sont que quelques-uns des risques encourus.

Comment ne pas transformer l’enthousiasme des collaborateurs, leur appétit féroce pour l’innovation en un piège redoutable pour la sécurité de l’entreprise ? Sur ce sujet également, la gouvernance est clé. 

Là où la bataille est pernicieuse, c’est qu’il est impossible d’avoir une quelconque visibilité sur les pratiques en matière de shadow IA par les collaborateurs. Et ces pratiques sont loin d’être anecdotiques. Une enquête récente a ainsi révélé que les entreprises n’ont aucune visibilité sur 89 % de l’utilisation qui est faite de l’IA par leurs utilisateurs. Et ce, malgré la mise en place de politiques de sécurité. La menace rôde, insidieuse. 

Mais les usages de l’ombre en matière d’IA ne se réduisent pas à un sujet de sécurité. Il est également question d’innovation. 

Sans encadrement des pratiques, sans cadre homogène, sans visibilité sur les usages, comment une entreprise peut-elle mesurer la valeur apportée par l’IA sur de nombreux cas d’usage ? 

Notre solution Live Intelligence ne contient aucune information d’identification personnelle. En revanche, son tableau de bord apporte une visibilité totale sur les activités réalisées sur la plateforme. Pratique pour repérer les assistants IA les plus populaires ou les plus efficaces. Une fois identifiés, certains peuvent même être industrialisés puis proposés à l’échelle de l’entreprise. 

Sans la connaissance précise des usages, comment ces innovations pourraient-elles se développer, comment la valeur pourrait-elle être créée et mesurée ?

Le shadow IA c’est également la mort de l’approche collaborative d’où naissent de nombreuses idées. Les collaborateurs qui le pratiquent communiquent rarement sur les avantages tirés d’une technologie utilisée sans autorisation. Leurs collègues n’en profiteront donc jamais. Live Intelligence encourage au contraire une collaboration active entre collègues et départements, afin de favoriser un partage des conseils en matière de productivité.

En matière de Shadow IA, l’argument de la durabilité est peut-être moins évident, et pourtant ! Live Intelligence intègre plusieurs grands modèles de langage (LLM). Les utilisateurs peuvent sélectionner celui qui leur convient d’un simple clic en fonction de ses performances, de son coût et de son empreinte carbone. Ils sont donc davantage incités à prendre en compte les coûts financiers et environnementaux pour le choix de leur LLM. Pensez-vous que le shadow IA offre de telles possibilités ? 

Le déploiement de solutions d’IA générative approuvées, puissantes et fiables reste donc la voie royale pour contrer le shadow IA.

En mettant en place des cadres à la fois robustes et flexibles, les dirigeants d’entreprise se donnent les moyens de gérer les risques, de garantir la conformité de leur solution et de susciter la confiance, tout en libérant le formidable potentiel créatif de leurs équipes. Les stratégies les plus performantes s’appuient sur des comités transversaux pour la gouvernance de l’IA, sur des plateformes d’innovation ouvertes et sur des sessions de formation régulières. 
En alliant structure et flexibilité, les entreprises instaurent un environnement favorable à une innovation responsable.
La difficulté n’est pas de choisir entre le contrôle et l’innovation, mais de les associer afin de créer une valeur durable pour l’entreprise. 
Chez Orange, nous sommes désormais à un point d'équilibre : Live Intelligence compte aujourd’hui 12 000 à 15 000 utilisateurs quotidiens et 44 000 à 48 000 utilisateurs mensuels. Ces taux d’adoption parlent d’eux-mêmes : cet outil répond aux attentes de nos collaborateurs. Autre indicateur qui ne trompe pas : le taux de satisfaction s’élève à 8,3/10. 
N’attendez pas : mettez en place les garde-fous appropriés, faites confiance à vos équipes et préparez votre entreprise pour profiter pleinement de l’IA générative, dans le respect des principes éthiques.
Notre propre retour d’expérience avec Live Intelligence le prouve : l’IA est bien plus qu’une nouvelle technologie à disposition de l’entreprise. Elle constitue également et surtout un véritable changement culturel qui va profondément la transformer. La formation des collaborateurs, la sensibilisation aux risques, la compréhension des réglementations et l’adoption des bonnes pratiques sont autant d’éléments qui permettent de surmonter les contraintes réglementaires pour en faire de véritables avantages concurrentiels. La créativité des collaborateurs ne demande qu’à s’exprimer, à l’entreprise de lui donner les moyens de se révéler !