Les algorithmes ont ceci de magique qu’ils semblent fonctionner sans intervention humaine. Voilà une belle fiction qu’entretiennent les dispositifs numériques et les grandes entreprises sur lesquels ces dispositifs sont assis. En vérité, les contenus des plateformes – YouTube, Facebook, Twitter… – doivent leur relative pureté avant tout au travail de milliers de « modérateurs » qui suppriment les images et énoncés problématiques. Dans Derrière les écrans, Sarah T. Roberts propose pour la première fois une étude de ces invisibles au croisement de la sociologie du numérique, du travail et du courant technocritique.
Sarah T. Roberts, Derrière les écrans. Les nettoyeurs du Web à l’ombre des réseaux sociaux. Préface d’Antonio Casilli. Trad. de l’anglais (États-Unis) par Sophie Renaut. La Découverte, 264 p., 22 €
Boris Vian a inventé, dans les pages de L’arrache-cœur, la Gloïre, un personnage s’affairant dans les eaux les plus fangeuses pour ramener à la surface des objets que les habitants du village voisin ne voulaient plus voir. Ce faisant, le nageur endosse les péchés, leste la société d’un poids comme il se flétrit et se damne.
Le folklore est riche de ce genre de « mangeurs de péchés », personnages conçus pour digérer des fautes morales, à la manière de confesseurs païens, et qui offrent aux sociétés violentes, en même temps que profondément croyantes, un moyen de vivre avec la culpabilité. Leur fonction sociale est presque aussi prononcée que celle du « bouc émissaire » dont l’ouvrage classique de René Girard s’était saisi en 1982.
Sarah T. Roberts, qui enseigne les sciences de l’information en Californie, débusque dans les arcanes du web une forme actualisée de ces agents folkloriques : il existe des milliers de « modérateurs » de par le monde, dont la tâche consiste à nettoyer le web, les forums, les réseaux sociaux, à purifier en somme l’espace public numérique de ses contenus les plus litigieux (sexualité, violence, insultes). Fruit de huit années d’étude et d’entretiens, Derrière les écrans s’impose comme la première étude d’ampleur d’opérations très diverses que Sarah T. Roberts unifie sous la désignation de « modération commerciale de contenu ».
L’analogie avec les mangeurs de péchés fonctionne aussi loin qu’on la pousse : comme le confesseur, le modérateur agit dans l’ombre ; comme lui, il vit convaincu de l’importance de sa tâche ; et tous deux, enfin, partagent une certaine précarité. Sarah T. Roberts distingue plusieurs formes de modération commerciale, selon l’organisation du travail à laquelle elles s’adossent : on trouve des modérateurs à même la Silicon Valley, qui sous-traitent en Californie les tâches d’assainissement du contenu des plateformes voisines ; mais aussi des employés en remote disséminés à travers le monde mais coordonnés à la faveur du Cloud ; d’autres, enfin, entassés dans les call centers et plateformes de microtravail aux confins des provinces de l’empire numérique – Philippines, Inde, Sri Lanka…
L’ouvrage, paru aux États-Unis en 2019, dissipe une partie de cette aura mystique qui nimbe les nouvelles technologies et que l’archéologie des médias s’est attachée à décrire – il n’est pas, pour cette discipline, jusqu’au plus élémentaire de nos objets techniques qui ne soit socialement investi d’un pouvoir secret. Le mystère du Web doit notamment beaucoup à cette fiction selon laquelle le dispositif technique s’autorégulerait, du fait de la performance des algorithmes ou de l’acuité de certains automatismes. Non, l’intelligence artificielle n’est pas pure, elle n’est pas tout entière l’opération d’algorithmes. Elle doit bien son effectivité à des milliers de petites mains. Les plateformes veillent d’ailleurs à maintenir les modérateurs dans l’ombre par divers moyens : les bus qui conduisent les employés sur leur lieu de travail dans la Silicon Valley sont affrétés dans le plus grand secret, et ces employés confient qu’ils n’ont véritablement été renseignés sur la nature de leur tâche qu’au moment de prendre leurs fonctions.
Ces modérateurs occupent une place à part dans la division internationale du travail. Pour en rendre compte, Sarah T. Roberts emprunte à Manuel Castells son modèle de l’économie capitaliste contemporaine comme une « économie de l’information caractérisée par la compression du temps et de l’espace en un espace de flux » qu’orientent les grands champions de l’économie numérique. La société en réseau, interconnectée, dégage des interstices, des zones condamnées à demeurer à l’écart. Les modérateurs peuplent les catacombes de ces architectures réticulaires mondiales ; nulle surprise, alors, que la lumière ne se fasse pas sur leur travail.
Mais, aux Philippines, espace dominé de l’économie mondiale, l’attitude au travail des modérateurs a quelque chose de pionnier. Sarah Roberts raconte l’hommage qui leur est rendu à Eastwood City, quartier d’affaires de Manille, autrefois abandonné à la pègre. « Héros des temps modernes », les modérateurs sont les bras – ou, plus littéralement, les doigts – d’une tertiarisation à marche forcée de la zone, à la faveur de partenariats public-privé et des dispositifs d’aménagement baptisés PEZA pour « Philippine Economic Zone of Authority ». Un urbanisme dystopique, sous l’égide de l’entreprise Megaworld Corporation, organise une véritable privatisation de l’espace, pénétrée de bons sentiments : les call centers dédiés au business process outsourcing, secteur dont relève la modération commerciale de contenus, doivent éradiquer un chômage et une pauvreté endémiques. C’est en ces lieux que l’activité de modération est la plus précarisée au monde, la plus « tâcheronisée ». À l’image de ces ouvriers spécialisés du Travail en miettes de Georges Friedmann (1956), qui ne connaissent pas le rôle des pièces d’automobile qu’ils usinent en série, ces ouvriers philippins n’ont aucune idée des contextes dans lesquels évoluent les contenus pléthoriques qu’ils traitent.
Eastwood City, aux Philippines, la première communauté de Megaworld Corporation © CC/Lawrence Ruiz
Si absurde et précaire qu’elle nous paraisse, la tâche de modération n’a pourtant rien d’un « bullshit job ». On a beaucoup discuté des travaux de David Graeber et de ce concept phare qui qualifie la conscience, pour un travailleur, de l’inanité de son activité. Si, au contraire, la modération possède tous les atours du « sale boulot », aux prises avec la noirceur du monde, elle se vit comme une œuvre sacrificielle, essentielle à la salubrité de l’espace public. Les modérateurs confient à Sarah T. Roberts qu’ils assument une irremplaçable mission de curation, dussent-ils y laisser leur stabilité psychologique. Tous revêtent également une grande importance pour les différentes plateformes ; ainsi Facebook s’est-il empressé de les rappeler entre ses murs dès le mois d’avril 2020, alors que le télétravail demeurait conseillé à la plupart des ingénieurs.
Finalement, la modération commerciale de contenu découle de la macrostructure actuelle du web, celle qui s’est imposée et qui a privilégié la concentration des entreprises autour d’un petit nombre de géants. À l’espace public numérique de la fin des années 1990, mosaïques de zones d’autonomie dont la curation incombait à leurs membres, s’est substituée une toile très concentrée autour de balises éminentes – les GAFAM et autres attracteurs de flux d’information.
Les modérateurs sont les agents d’une grammaire du débat public qui s’affine progressivement au fil des scandales, des affaires, des débats sociétaux qui déchirent la société. Facebook, Twitter ou Tinder craignent par ailleurs qu’en divulguant les règles de cette casuistique, autant d’internautes malins trouvent les moyens de les contourner.
Le web donne ainsi lieu à une forme inédite de prise de parole ; les frontières du débat démocratique y demeurent floues, et les énoncés limites qui y figurent peuvent à tout moment en disparaître. La section 230 du Communications Decency Act, qui garantit l’immunité juridique des hébergeurs de contenu, n’arrange rien à l’opacité des règles de la prise de parole sur les plateformes, puisque, sans risque de poursuites judiciaires, le droit d’existence de tel ou tel contenu est mis à la discrétion des hébergeurs. Ainsi des entreprises se muent-elles progressivement en autorités morales…
