Plateformes, censure et bulle de filtre

Fin août sur Arte était diffusé un documentaire intitulé The Cleaners, les nettoyeurs du web. Dans ce film, les réalisateurs nous emmenaient aux Philippines à la rencontre de ceux qui – appelons un chat, un chat – censurent les réseaux sociaux que nous utilisons quotidiennement. Ces femmes et ces hommes, incarnation même du travailleur du clic, passent leur journée devant des images de pédopornographie, de décapitation ou de simple nudité…

Certains se spécialisent même – comme celui qui ne s’occupait que du traitement des représentations d’automutilation – avant de se suicider… Si d’aucuns de ces exploités trouvent dans la religion une justification de leur mission, d’autres en viennent, logiquement, à souffrir de dépression ou à développer des troubles psychiatriques.

Ce que dénonce ce documentaire est symptomatique des dérives potentielles et avérées de notre société numérique. En premier lieu, il existe, loin de nos yeux occidentaux et de nos protections sociales, des pays à qui les plateformes du web peuvent sous-traiter des tâches ingrates, avilissantes, brutales et ce, en toute discrétion.

De plus, le travail numérique ou digital labour, expliquent Casilli et Cardon, est caractérisé par un encadrement contractuel et des métriques de performance. En d’autres termes, ces « nettoyeurs du web » sont donc non seulement soumis à des images d’une rare violence de manière répétée mais doivent également justifier d’une productivité, d’une efficacité normée et oppressive.

La modération de contenus telle que dénoncée dans le documentaire, pose, ensuite, la question de la censure, du contrôle de l’information. En effet, les plateformes du web participatif, entreprises de droit privé, édictent leur propre réglementation et la font appliquer sur les services qu’ils proposent dans le monde entier.

Ce point mérite que l’on s’y attarde car si la justification d’un règlement comme moyen de limiter les infractions aux normes juridiques des pays dans lesquels opèrent ces plateformes peut s’entendre, il est plus  ardu de comprendre le choix qu’elles font d’imposer des règles plus sévères que certaines lois nationales ou internationales en vigueur. Pourquoi Facebook, Twitter, Apple et les autres se permettent-ils de créer du droit ?

Image associée

La première réponse à cette question peut simplement résider dans le fait que l’accès à ces dispositifs est libre et gratuit (ou du moins perçu comme non contraint et non payant) et que si l’on choisit de les utiliser, il est normal de se conformer à leurs règles. Or, cette affirmation connaît deux écueils. D’abord, le poids de ces « géants du web ». On peut se passer de Twitter ou d’Apple, de Facebook ou de Google, d’Amazon ou de Microsoft… mais peut-on réellement, simplement, se passer de l’ensemble des services fournis par ces plateformes ?

Ensuite, d’où viennent ces règles, d’où tirent-elles leur légitimité ? Dans une société démocratique, le droit résulte d’une volonté d’un législateur, lequel est censé représenter la Nation contre les intérêts particuliers. En France, l’article 6 de la DDHC est d’ailleurs assez clair à ce propos : « La Loi est l’expression de la volonté générale. Tous les Citoyens ont droit de concourir personnellement, ou par leurs Représentants, à sa formation. » Or, les règlements des plateformes ne représentent que les intérêts des plateformes, de leurs dirigeants, de leurs actionnaires.

De plus, ces règlements ne sont, en aucun cas, soumis à l’approbation des utilisateurs, à un vote quelconque. Le seul choix laissé à l’usager est de s’y conformer ou de cesser d’utiliser le service. Un système où les lois sont édictées et appliquées en toute opacité par la même entité, ne semble pas vraiment démocratique.

Pourtant ces « lois » s’appliquent sans beaucoup de contestation. Nous continuons à cocher la case d’acceptation des conditions d’utilisations des services dont nous sommes devenus captifs et ces services continuent de s’accroître, venant concurrencer les Etats en termes de population, de budget comme, nous venons de le voir, de capacité à édicter des normes et à les faire appliquer. Pour l’instant les plateformes ne semblent pas désireuses de battre monnaie, mais jusqu’à quand ?

En limitant la représentation de certaines images violentes, tout en laissant se déverser la haine des pro-Trump ou des anti-Rohingyas, en censurant des œuvres d’arts comme l’Origine du Monde, en contrôlant l’information sous prétexte d’une personnalisation des contenus, les plateformes numériques construisent en réalité une représentation du monde, une vérité qu’ils imposent à leurs usagers.

En nous enfermant dans cette « bulle de filtre », ils nous isolent intellectuellement et nous poussent à réagir en programmant notre indignation permanente.

Résultat de recherche d'images pour "don't be evil"

Car ne nous y trompons pas, les GAFAM sont aussi porteurs d’un projet politique. En effet, si Google a remplacé son slogan Don’t be evil par Do the right thing en 2018, l’idée, elle, demeure. En construisant une « République de la bienveillance », les plateformes cherchent à formater leurs usagers afin d’atteindre un conformisme plus ou moins généralisé où chaque individu peut être réduit à un pattern de consommateur. Un monde nouveau où la différence serait une variable d’ajustement des publicités ciblées et où une trop grande « personnalité » justifierait que l’on soit marginalisé.

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s