Mesurer l’essentiel pour une IA véritablement responsable

Orange Business intègre l'IA responsable dès la conception des projets. Nous veillons à ce que les systèmes soient éthiques, transparents et conformes aux valeurs humaines, ce qui permet de réduire les risques tout en renforçant la confiance et en assurant la viabilité à long terme. 

Outre notre expertise interne, nous nous appuyons sur la norme ISO/IEC 42001 pour structurer notre cadre d'IA responsable. Cette norme relative aux systèmes de gestion de l'IA guide les organisations dans la mise en place d'une approche structurée pour relever les défis propres à l'IA, notamment les risques, les considérations éthiques, les questions réglementaires et l'adaptabilité, afin de trouver un équilibre entre innovation, gouvernance et amélioration continue. Cela inclut la mise en œuvre, le maintien et l'amélioration continue des politiques en matière d'IA.

Nous avons également mis en place des modèles de documentation standardisés, couvrant les sources de données et les limites de conception des modèles, afin de renforcer la traçabilité et la transparence. Nous avons intégré la gouvernance dans nos workflows de projet, en révisant les exigences en matière d'IA à chaque étape du développement. Les considérations de durabilité évaluent l'impact environnemental de l'IA.

Notre objectif est de fournir à nos équipes des orientations claires, des outils utilisables et des processus cohérents pour mettre en pratique une IA responsable.

Nous sommes fiers d'être des pionniers en matière d'IA éthique, en alignant nos innovations sur la loi européenne sur l'IA et sur notre propre Charte d'éthique relative aux données et à l'IA. Face à l'évolution des cadres réglementaires, nous avons besoin de principes clairs pour traduire les réglementations en actions concrètes.

Notre Charte constitue un pilier central de notre approche de l'IA, garantissant que l'IA responsable soit intégrée à notre stratégie d'entreprise et ne soit pas traitée comme une initiative distincte. En adoptant une attitude proactive, nous garantissons la conformité juridique tout en renforçant la confiance des clients dans nos solutions basées sur l'IA, instaurant ainsi la transparence et la confiance à tous les niveaux. 

La Charte s'articule autour d'engagements clés : une IA centrée sur l'humain, l'équité, la transparence, la responsabilité, la sécurité, la confidentialité et la responsabilité environnementale. Ces principes déterminent la manière dont les initiatives en matière d'IA sont réévaluées, développées et supervisées, créant une cohésion entre les équipes et renforçant la confiance des clients dans le fait que l'innovation est gérée avec soin et responsabilité. 

Orange Business adopte une approche de l'IA « intégrée dès la conception », selon laquelle l'intelligence est intégrée aux solutions dès le départ, et non ajoutée a posteriori. Les cas d'utilisation de l'IA sont définis en fonction des objectifs commerciaux, les données, l'architecture et la gouvernance étant structurées dès le départ pour garantir des résultats mesurables. 

La transparence et la traçabilité sont intégrées aux flux de travail plutôt que considérées comme des éléments facultatifs. Cela garantit que les solutions d'IA sont responsables, évolutives et alignées sur les stratégies commerciales à long terme.

En structurant la gouvernance de cette manière, la Charte rassemble les équipes commerciales, techniques, juridiques et de conformité, rendant ainsi les projets d'IA plus cohérents, mieux contrôlés et plus fiables.

Le contrôle interne est essentiel pour rendre l'IA responsable concrète et crédible. À cette fin, nos systèmes d'IA font l'objet d'examens internes structurés, en particulier ceux classés comme présentant un risque élevé. Avant leur déploiement, nous vérifions la classification des risques, la documentation et la responsabilité conformément à la Charte et à la loi européenne sur l'IA. Ces principes sont ensuite mis en pratique. 

Nous utilisons des indicateurs clés de performance (KPI) structurés, alignés sur nos engagements en matière d'IA responsable, afin de mesurer nos performances par rapport à notre cadre global en matière d'IA et de données. Ceux-ci couvrent la gouvernance et la supervision éthique, la maîtrise des risques, la transparence, la sécurité, l'efficacité environnementale, les pratiques de réutilisation, la satisfaction des utilisateurs, ainsi que la qualité et la performance des données.

Ces indicateurs sont intégrés tout au long du cycle de vie de la prestation de services par le biais de points de validation et de contrôles de vérification. Tous les projets doivent démontrer leur conformité en matière de gouvernance, de qualité et de performance pour pouvoir avancer.

Les indicateurs sont analysés et comparés à des références externes, notamment celles de l'université de Stanford et d'autres initiatives internationales. Les critères de référence incluent l'équité et la non-discrimination, la confidentialité et la sécurité des données, ainsi que l'impact environnemental.

Les tableaux de bord de reporting sont accessibles aux niveaux opérationnel et de gestion, tant au niveau régional que mondial. Les progrès sont suivis et les domaines d'amélioration identifiés, garantissant ainsi qu'une IA responsable est systématiquement mesurée et gérée dans tous les projets. 

Nous adaptons en permanence notre modèle de gouvernance et affinons nos indicateurs clés de performance (KPI) afin de mieux refléter, par exemple, les risques émergents, les nouvelles architectures et les cas d'utilisation plus autonomes. Notre objectif est d'assurer une visibilité en temps réel et une traçabilité renforcée tout au long du cycle de vie de l'IA. 

Une IA responsable repose sur les personnes et les processus pour garantir une prise de décision éthique, une supervision adéquate et la responsabilité. Pour y parvenir, nous investissons dans des programmes de formation destinés à nos collaborateurs, notamment des programmes de sensibilisation à l'IA visant à promouvoir une utilisation sûre, responsable et éthique de cette technologie.

Des modules avancés sont proposés aux spécialistes de l'IA et aux chefs de projet afin qu'ils puissent appréhender le cadre global des données et de l'IA. Les retours d'expérience et les témoignages sont partagés afin de contribuer à ancrer l'IA responsable dans notre culture d'entreprise et de soutenir des pratiques d'innovation durables. 

L'IA agentique représente pour nous le prochain grand défi, car sa prise de décision autonome rend beaucoup plus difficile son suivi, son audit et la garantie de sa conformité avec les objectifs environnementaux et éthiques. Nous renforçons donc les mécanismes de supervision humaine, clarifions les chaînes de responsabilité et consolidons les capacités de journalisation et de surveillance afin de garantir que les comportements autonomes soient vérifiables et contrôlables. 

Il est essentiel d'anticiper les défis en matière de gouvernance à mesure que l'IA gagne en autonomie, en veillant à ce que l'innovation progresse dans un cadre qui garantit une confiance mesurable, une responsabilité et un impact transparent et responsable pour les clients.