Le développement d’une société de notation est quelque chose de relativement nouveau dans des sociétés où les tiers de confiance étaient essentiels aux interactions humaines. Avec le boom de l'Internet et par la suite avec la montée du big data, soudainement noter toute chose, noter tout le monde est devenu possible. La notation peut affecter les humains et les entreprises. La notation peut être effectuée par des humains ou des entreprises.
Alors que les dérives possibles d’une société de notation ont été exposéex au grand public par l'émission télévisée de Charlie Brooker, Black Mirror, ses dates de naissance remontent à quelques années.
Créer la confiance par la société de notation
À première vue, l'objectif principal des notations est important, à savoir permettre la transparence de l'information, permettre d’informer concernant les activités d'un organisme donné, que ce soit dans le domaine de la finance, de la banque ou du sport.
Les évaluations, lorsqu'elles sont bien faites, sont un excellent moyen d'interagir avec des inconnus et de prendre en compte les commentaires, les expériences d'autres personnes ou entreprises. Toutefois il est important que ces évaluations soient fondées sur des critères objectifs et/ou inclusifs.
Par exemple, dans le secteur économique existent trois grandes agences de notation de crédit, qui attribuent des notations financières aux États ou aux entreprises (Standard & Poor’s, Moody’s, Fitch). Ces agences évaluent la capacité d'un débiteur à rembourser ses dettes en effectuant des paiements d'intérêts en temps opportun et la probabilité de défaut de ce même débiteur. Elles évaluent également, au moyen de formules mathématiques, la solvabilité des émetteurs de titres de créance, d'instruments de créance etc.
Dans le cadre d’une économie mondiale, les notations peuvent aider à améliorer la sécurité financière, car elles sont un outil pour évaluer les risques qu'une personne pose. Sous cet angle, la notation est un outil qui aide à construire la confiance. Il aide des personnes étrangères les unes aux autres à interagir sans avoir peur d'être victime d’une escroquerie ou d’un vol.
La notation est un outil d'autorégulation au sein des communautés en ligne, des plateformes en ligne ou des places de marché dématerialisées. Notamment :
• Les places de marché de détail comme Amazon, où vous pouvez évaluer les détaillants;
• Les moteurs de recherche comme Google, où vous pouvez évaluer des lieux, des entreprises et même des administrations;
• Les sites Web d'évaluation des enseignants, comme RateMyTeacher, où les étudiants peuvent noter leurs professeurs et leurs cours;
• Les plateformes touristiques comme Tripadvisor, où vous pouvez évaluer les hôtels ou les restaurants;
• Des plates-formes de transport comme Uber, où vous pouvez noter le conducteur et l'utilisateur;
• Ou encore, un exemple typique d’autorègulation des plateformes de vente de drogue fonctionnant sur le darknet, comme Silkroad;
Sur ces sites, les personnes ou les entreprises sont notées, ainsi que le service qu'ils fournissent. Les notes peuvent parfois être expliquées à l'aide de commentaires.
Le besoin de poids et contrepoids dans une société de notation
Il y a toutefois un revers de médaille lorsque les personnes utilisent la notation dans leurs interactions sociales. En effet, aussi important que soit la régulation de nos comportements et la confiance dans nos sociétés averses au risque, on ne peut pas oublier qu’il est nécessaire de préserver certaines garanties pour maintenir une société juste et démocratique.
Quand une personne physique ou morale est notée par ou pour le compte d’une autre personne physique ou morale, comment s’assurer que cette personne n’est pas victime d’un troll, d’astro-turfing ou encore d’un internaute jaloux ou malicieux ?
Par exemple, les trolls peuvent être utilisés par des entreprises, des États ou des individus pour pousser leur agenda, pour embellir ou dénigrer quelque chose ou quelqu'un (i.e. les dernières élections américaines avec des pressions multiples contre Hillary Clinton par des trolls travaillant pour le compte de la Russie), ce qui dans une société de notation alimentée par le big data pose un réel problème. En effet, si un troll donne de fausses informations et que ces informations sont reprises lors d'une évaluation, cela peut être vraiment dommageable pour la réputation de la victime.
Par ailleurs, les comportements, notamment humains, peuvent-ils être réduits à des équations mathématiques par les entreprises? Peuvent-ils être englobés par des algorithmes?
De plus, quelle est la valeur de l'évaluation subjective faite par un humain? Les critères sont-ils connus? Ces critères sont-ils similaires à d'autres personnes?
La quantité de stress qu’une évaluation permanente peut faire peser sur une personne est énorme. Cela implique d’être toujours en train de penser à sa valeur en termes de métriques. Noter quelqu’un peut lui causer des dommages psychologiques de multiples façons :
• Cela peut créer de l'anxiété si la note est basse et qu’aucun feedback n'est donné
• Cela peut créer une auto-normativité subconsciente menant à un changement d'attitude afin de satisfaire ce que nous pensons être le bon comportement / l'acte nécessaire à l’améliorer notre note.
• Cela peut créer une perte de confiance en soi conduisant à un confinement et à un refus d’interagir avec autrui de peur d’être jugé puis évalué.
Sachant comment les notations peuvent affecter les individus, comment pouvons-nous assurer un moyen de faire confiance aux jugements des autres? Surtout quand ils sont cachés derrière des avatars, des écrans, des pseudonymes et qu’ils peuvent créer plusieurs comptes pour promouvoir la même idée de manière différente et sous plusieurs alias. La réponse à cette question est fondamentale dans une société où la notation sociale apparait.
Afin d'éviter que les gens soient diffamés ou victimes de nombreuses, et possiblement fausses, accusations d'une personne détentrice de plusieurs comptes, il faut créer un mécanisme qui relie les personnes réelles à une identité en ligne afin qu'il ne puisse évaluer une personne ou une chose qu'une seule fois.
Ils doivent également s'assurer que les personnes qui notent étaient réellement en contact ou faisaient des affaires ensemble, afin que personne ne puisse faussement évaluer un concurrent ou un ennemi.
• Par exemple, Amazon et Discogs autorisent la notation du vendeur seulement si on lui a acheté quelque chose
• Autrement, Uber permet aux chauffeurs et aux passagers de se noter mutuellement seulement s’ils sont entrés dans une relation commerciale par le biais de l’application. Ce qui est important quand on sait que les chauffeurs peuvent être bannis du service, et donc de leur gagne-pain, après un certain nombre de mauvaises notes.
Systèmes de notation : juge, jury, bourreau
Les systèmes de notation ont généralement beaucoup d'impact sur la personne évaluée, qu’elle soit une personne physique ou une personne morale. Cela peut se traduire par :
• Perte de clients ou de partenaires d’affaire (Amazon, Tripadvisor ou Google ratings et reviews),
• Perte de réputation (notations Facebook ou RateMyTeacher),
• Perte de droits (ex : voyager en Chine ou accéder au crédit en Amérique du Nord).
A la lecture de genre d'impacts, il peut sembler que notre vie se résume à un long procès, où le juge, le jury, le bourreau n'est pas le juge Dredd, mais chaque personne que l’on rencontre ou avec qui l’on interagit.
En plus d'être stressante, l'immixtion d'une société de notation dans notre vie quotidienne nécessiterait la présence de certains attributs de notre système judiciaire, afin de protéger les personnes contre les abus, qui pourraient avoir un impact important sur leur vie.
Les mécanismes suivants semblent nécessaires pour fournir des évaluations justes et de qualité :
• L'existence de critères de notation objectifs
• Une explication de la notation, de sorte que la personne notée puisse comprendre le pourquoi et le comment de la note reçue,
• L’existence d’un droit de se défendre. Il est utile de rappeler que la notation n'est que le point de vue de l'évaluateur.
• Une possibilité d'appel de la notation si elle est injustifiée, sans fondement, injuste, etc.
• Un moyen de se racheter après une période déterminée,
• Un droit à l'oubli, défini par le professeur Alessandro Mantelero comme le droit "de déterminer le développement de sa propre vie de manière autonome, sans être perpétuellement ou périodiquement stigmatisé comme une conséquence d'une action spécifique accomplie dans le passé"
• Un droit de réponse, au sens du droit de se défendre contre la critique / notation publique au même endroit où il a été publié.
Pour conclure, la notation publique dans une société peut être considérée comme une forme de jugement public faite par la communauté. La notation privée comme les scores de crédit, même si les résultats ne sont connus que de quelques-uns, peut être aussi dommageable pour la vie d’une personne que la notation publique.
Du bon côté, la notation est un excellent moyen de faire commerce, d'échanger pacifiquement, de se faire confiance grâce à la confiance accordée par les autres. Il peut aider à sécuriser les relations entre les individus, après qu'ils ont été validés par une entreprise, une communauté.
D'un autre côté, une notation si elle n'est pas faite correctement peut avoir un impact négatif important sur les individus et les entreprises. Un équilibre doit être trouvé entre la sécurité, la liberté, le droit à la réputation et les droits individuels.
Pour conserver un système de notation sain dans une société où la notation est de plus en plus présente, il faut que les autorités administratives indépendantes préservent les droits et libertés des individus lorsqu’ils sont notés par autrui.