Les entreprises mettent les données au cœur de leurs stratégies et celles-ci prennent donc une place toujours plus importante dans le quotidien des consommateurs et des citoyens.
Pour répondre aux craintes, légitimes, de dérives, les entreprises se doivent de définir leur position quant à un usage éthique des données.
Anne-Eole, Senior Consultant en Data Management chez Wewyse, vous propose dans cet article une définition de cadre éthique d’usage des données dans les entreprises.
1. Quel périmètre pour l’éthique des données en entreprise ?
Aujourd’hui, les entreprises sont sensibilisées à certains risques éthiques à leurs données. La question visant à poser des limites à l’usage des données n’est pas nouvelle. Premier exemple avec les données personnelles : en France, la loi Informatique et Libertés date de 1978. Elle a été renforcée en 2018 par le Règlement Général sur la Protection des Données (RGPD) qui fournit un cadre légal d’utilisation des données personnelles des citoyens européens.
La croissance exponentielle des données et de leur usage, notamment par les entreprises, rend ces risques plus prégnants et rend nécessaire l’établissement de règles communes sur de nouveaux domaines, tel que celui de l’intelligence artificielle. Depuis mars 2018, des travaux sont menés par la Commission européenne sur cette question ; au printemps 2021, elle a publié une proposition de règlement Intelligence Artificielle (Act IA).
L’existence d’un cadre juridique (comme le RGPD aujourd’hui et le règlement européen IA demain) ne dispense pas les entreprises de se poser la question d’un usage éthique de la donnée, car être dans la légalité n’induit pas être éthique.
De plus, ces deux sujets majeurs que sont les données personnelles et l’intelligence artificielle ne peuvent pas résumer à eux seuls la question de l’éthique dans la Data. Quelques exemples de questions qui méritent également d’être posées : une entreprise peut-elle se permettre de vendre ses données à des tiers ne partageant pas les mêmes valeurs ?
Ainsi, la conformité au RGPD et la limitation des risques associés à l’intelligence artificielle sont des conditions nécessaires, mais non suffisantes à un usage éthique de la donnée dans l’entreprise.
2. Quelle définition pour un cadre éthique des données en entreprise ?
Revenons aux fondamentaux, sans avoir peur d’être scolaires : l’encyclopédie Larousse nous rappelle que chez Hegel, l’éthique est “ce qui concerne l’organisation des rapports sociaux, par opposition à la moralité qui énonce les principes de l’action individuelle”.
Un cadre éthique définit donc ce qui au sein d’un groupe d’individus est considéré comme une bonne ou une mauvaise conduite.
Il est important de souligner que l’éthique est par nature relative à une culture, à une société, à un groupe d’individus. Le système de crédit social chinois peut choquer certains européens pour qui la liberté individuelle est une valeur fondatrice. Il s’appuie en fait sur une valeur forte de la société chinoise : l’harmonie des relations dans la communauté (harmonie atteinte dans ce cas via la régulation des comportements individuels).
Au regard de cette complexité, notre article propose de définir ce que pourrait être ce cadre au sein de l’entreprise. Selon nous, un cadre éthique d’usage de la donnée au sein de l’entreprise devrait comprendre les valeurs (et principes) que l’entreprise souhaite respecter et promouvoir ainsi qu’une déclinaison opérationnelle permettant à chaque acteur de s’impliquer dans le respect de ces valeurs.
Malgré la complexité du sujet de l’éthique, nous conseillons aux entreprises de se définir un cadre d’usage éthique des données suivant leurs valeurs, ainsi qu’une déclinaison opérationnelle permettant de les mettre en action. Le dire, c’est bien – le faire, c’est mieux.
3. Le cadre éthique d’usage de la donnée au sein de l’entreprise
Un cadre éthique d’usage des données va donc s’appuyer sur les valeurs qu’une entreprise souhaite promouvoir et respecter.
S’appuyer sur ses valeurs d’entreprise
Chaque entreprise se référera naturellement à ses valeurs propres. Le groupe français La Poste par exemple, promeut ces six valeurs historiques : ouverture, considération, équité, accessibilité, proximité et sens du service. Ces valeurs reflètent le positionnement du groupe, 100% public, également reconnue comme la plus grande entreprise de proximité de France.
Un cadre éthique d’usage de la donnée peut par ailleurs s’appuyer sur des valeurs plus collectives, issues par exemple de la culture dans laquelle l’entreprise se situe – ou de plusieurs cultures dans le cas d’une société multinationale. Chez Wemanity, notre culture inspire ce triptyque de valeurs : l’amour du client, l’esprit d’humanité et de partage, l’agilité. Elles se déclinent localement dans les valeurs de Wewyse, entité Data de Wemanity : excellence, partage, créativité, éthique.
Réexprimer ces valeurs en lien avec les données
Ces valeurs ont plus généralement une portée globale et peuvent rarement être directement interprétées et utilisées par les collaborateurs de l’entreprise dans leurs usages des données. Prenons l’exemple d’un algorithme de traitements de données qui permet d’améliorer fortement un service pour la majorité des clients – mais dont le biais est de dégrader d’une manière inversement proportionnelle ce service pour le reste des clients. Cet algorithme doit-il être optimisé de manière à améliorer le service rendu – au titre de l’excellence promue par l’entreprise ? ou corrigé de sorte à limiter le biais, permettant ainsi une meilleure équité entre les clients ?
Il n’est pas forcément possible pour les collaborateurs de prendre des décisions éclairées sur la base des seules valeurs promues par l’entreprise. C’est pourquoi un mode d’emploi se doit d’être défini et partagé.
Mettre en action ces valeurs dans le quotidien des collaborateurs
Proposer une déclinaison opérationnelle de ces valeurs dans le cadre de l’usage de la donnée, c’est fournir à l’ensemble des acteurs différents outils leur permettant de les mettre en action dans leur quotidien et dans leurs projets – du membre du Comité Exécutif à l’opérateur chargé de la collecte de données. Ces outils peuvent être des grilles d’analyse de risque éthique, des processus de validation, des procédures d’alerte… Ils doivent être adaptés au niveau de responsabilité des collaborateurs dans la chaîne de décision.
Au sein d’une squad Data Science, chaque Data Scientist peut ainsi porter ses valeurs, en vérifiant avec une grille d’analyse de risque éthique adapté aux usages algorithmiques le risque associé à un nouveau modèle qu’il développe. Et peut ensuite prendre les mesures nécessaires (selon le processus défini par l’entreprise : consulter le Head of Data Science, le Product Owner voire le comité d’éthique).
4. Un cadre d’usage éthique apporte in fine de la valeur aux entreprises
De nombreuses entreprises disposent d’une organisation dédiée aux questions éthiques, souvent sous la forme d’un comité d’éthique, parfois sous la forme d’un Chief Ethics Officer. Les entreprises se dotent alors d’outils variés : charte éthique, code de conduite, procédure de signalement, formation des collaborateurs…
La performance est une des raisons invoquées pour la mise en place d’un comité d’éthique. Artelia est convaincu que “l’exemplarité éthique est un facteur de performance et de pérennité” ; SANOFI promeut l’éthique comme un véritable levier de création de valeur.
Eric Ducasse, Country Leader de Wemanity France, explique dans cet article pourquoi est-il convaincu de la corrélation entre l’éthique et les contributions financières.
Mais la principale raison reste la réputation. C’est “afin de préserver sa réputation” qu’EDF impose non pas une charte, mais une conduite éthique comme règle absolue à ses salariés. Véolia reconnaît que “sa réputation, son image, sa cohésion dépendent en grande partie de sa capacité à agir en accord avec ses valeurs”.
La réputation d’une entreprise comporte plusieurs dimensions : réputation auprès de ses clients, réputation auprès de ses partenaires (entreprises ou administrations) et réputation auprès de ses collaborateurs et de potentiels employés.
L’enjeu de réputation peut également être traité du point de vue du risque, mais aussi comme une opportunité : valoriser son approche éthique de l’usage des données pour renforcer la confiance des clients ; favoriser des partenariats avec certains organismes (publics ou privés) ayant des exigences élevées ; améliorer l’engagement de ses collaborateurs en leur donnant un rôle et une responsabilité dans la réputation de leur entreprise.
Définir un cadre éthique d’usage de ses données est une aventure pour une entreprise, plus ou moins semée d’embûches en fonction de la maturité de cette dernière en termes de pratiques éthiques et/ou de gouvernance des données. Cependant, face aux attentes de plus en plus fortes des consommateurs et des législateurs en la matière, ce cadre est d’une importance primordiale pour les entreprises faisant de leurs données un actif stratégique.
L’entreprise peut s’appuyer sur des partenaires tels que Wewyse qui portent les valeurs d’une data éthique pour se lancer dans ce chantier passionnant et à forte valeur de définition d’un cadre éthique d’usage de ses données.
En résumé :
En France, la loi Informatique et Libertés date de 1978. Elle a été renforcée le 25 mai 2018 par le Règlement Général sur la Protection des Données (RGPD) qui s’applique à toute organisation qui traite des données personnelles si elle est établie sur le territoire de l’Union européenne ou que son activité cible des résidents européens.
Les principaux risques associés à l’utilisation de la data (notamment dans le cadre de big data) sont l’utilisation abusive des données personnelles (fuites de données, profilage abusif) et les biais des algorithmes d’intelligence artificielle (accentuation des discriminations, faible explicabilité des modèles). L’utilisation massive de données à également un impact environnemental important.
Quelles sont les opportunités offertes par le traitement, la gestion et le pilotage d’une organisation ayant une politique éthique de la data ?
Respecter une politique éthique de la data pour une organisation, c’est limiter les risques de déviance et les risques réputationnels auprès de ses clients, ses partenaires, ses financeurs, ses collaborateurs. C’est également se démarquer de ses concurrents, et créer un cadre favorable à l’innovation dans le respect de ses valeurs.
