Applying Net neutrality rules to social media content moderation systems - Département Sciences économiques et sociales Accéder directement au contenu
Article Dans Une Revue Annales des Mines - Enjeux Numériques Année : 2022

Applying Net neutrality rules to social media content moderation systems

Le principe de neutralité appliqué aux systèmes de modération de contenus sur les réseaux sociaux

Résumé

I argue that the Net neutrality concept of “reasonable traffic management” can be applied to social media content moderation systems. Unlike recommendation systems which select, organize, and prioritize content, moderation systems should be neutral. Platforms should apply content moderation rules in an objective and non-discriminatory manner. The article explains the difference between content moderation and content recommendation (also called curation). The article then explores different forms of discrimination in content moderation. I propose two rules inspired by “reasonable traffic management” that should be transposed to content moderation: (i) discrimination in content moderation enforcement should not be motivated by commercial considerations, and (ii) discrimination should be based on objective criteria related to the nature of the content, the ease of detection and the relevant harms flowing from over-removal or under-removal. Finally, I argue that the proposed DSA should include the explicit requirements on the neutrality of content moderation, modeled on the language that appears on the European Regulation on the Dissemination of Terrorist Content Online.
Dans cet article, nous proposons que le principe de « mesures raisonnables de gestion du trafic », issu de la réglementation sur la neutralité de l’Internet, soit appliqué aux systèmes de modération de contenus par les réseaux sociaux. Contrairement aux systèmes de recommandation, qui sélectionnent, organisent et proposent des contenus, les systèmes de modération de contenus devraient être neutres, appliquant les règles de modération de contenus de façon objective et non discriminatoire. Nous expliquons la différence entre un système de modération et un système de recommandation. Nous explorons les différentes formes de discrimination dans les systèmes de modération, et proposons ensuite deux règles inspirées du principe de « mesures raisonnables de gestion du trafic » : une discrimination dans l’application des règles de modération de contenus ne doit pas découler de considérations commerciales, et elle devra s’appuyer sur des critères objectifs tenant compte de la nature des contenus en cause, la facilité de leur détection, et les préjudices qui découleraient d’un sur-blocage ou d’un sous-blocage de ces contenus. Enfin, nous suggérons que la proposition de règlement « Législation sur les services numériques » soit plus précise sur les obligations de neutralité des systèmes de modération, en s’inspirant du langage figurant dans le règlement européen sur la diffusion des contenus à caractère terroriste en ligne.

Domaines

Droit
Fichier principal
Vignette du fichier
Maxwell - Net neutrality in content moderation May 2022.pdf (158.85 Ko) Télécharger le fichier
Origine : Accord explicite pour ce dépôt

Dates et versions

hal-03740489 , version 1 (01-08-2022)

Licence

Paternité

Identifiants

  • HAL Id : hal-03740489 , version 1

Citer

Winston Maxwell. Applying Net neutrality rules to social media content moderation systems. Annales des Mines - Enjeux Numériques, 2022, pp.90-98. ⟨hal-03740489⟩
179 Consultations
134 Téléchargements

Partager

Gmail Facebook X LinkedIn More