Contenuti contaminanti: odio e violenza nei social network
DOI:
https://doi.org/10.15162/1827-5133/2236Keywords:
Aggregazione, Content moderation, Odio, Social media, Violenza, Aggregation, Hate, ViolenceAbstract
I contenuti user-generated sono la linfa vitale dei social media, e la content moderation è necessaria per limitarne varie categorie. Ciò include i contenuti d'odio e violenti, sebbene possano rimanere visibili. Il saggio esplora la relazione tra le strategie di content moderation e le concettualizzazioni di odio e violenza. Viene posta una domanda filosofico-politica relativa a come la visibilità e la regolamentazione dei contenuti d’odio e violenti modellano le dinamiche di aggregazione dell’utenza.
User-generated content is the lifeblood of social media platforms, and content moderation is required to restrict various categories of it. This includes hateful and violent content, although it may still be visible. The essay explores the relationship between content moderation strategies and conceptualizations of hate and violence. It raises the politico-philosophical question of how the visibility and regulation of hateful and violent content shapes the dynamics of user aggregation.
References
AHMED S., The Cultural Politics of Emotion, Edinburgh University Press, Edinburgh 2014.
ALFIERI L., “La violenza di massa in Elias Canetti e René Girard”, in «Teoria politica», 2017, n.7.
―, “Il terzo che deve morire”, in Figure e simboli dell’ordine violento. Percorsi fra antropologia e filosofia politica, Luigi Alfieri, Cristiano Maria Bellei e Domenico Sergio Scalzo (a cura di), Giappichelli, Torino 2003.
―, “Dal conflitto dei doppi alla giudiziaria”, in Figure e simboli dell’ordine violento. Percorsi fra antropologia e filosofia politica, Luigi Alfieri, Cristiano Maria Bellei e Domenico Sergio Scalzo (a cura di), Giappichelli, Torino 2003.
BARKER K. e JURASZ O., Online Misogyny as a Hate Crime. A Challenge for Legal regulation?, Routledge, Abingdon and New York 2019.
BAYER J. et al., Perspectives on Platform Regulation. Concepts and Models of Social Media Governance Across the Globe, Nomos, Baden-Baden 2021.
BELLEI C.M., “Il sacrificio impossibile. I social network come luoghi di paura”, in Buoni e cattivi. Etica, politica e potere al tempo di Internet, F. Sciacca (a cura di), Mimesis, Milano-Udine 2022.
BROWN A., “The ‘who?’ question in the hate speech debate: Part 1: Consistency, practical and formal approaches”, in «Canadian Journal of Law & Jurisprudence», vol. XXIX, 2016, n. 2.
BRUDHOLM T. e SCHEPELERN JOHANSEN B. (a cura di), Hate, Politics, Law, Oxford University Press, Oxford and New York 2018.
―, “Pondering Hatred”, in Emotions and Mass Atrocity. Philosophical and Theoretical Explorations, T. Brudholm e J. Lang (a cura di), Cambridge University Press, Cambridge 2018.
CHESS S. e SHAW A., “A Conspiracy of Fishes, or, How We Learned to Stop Worrying about #Gamergate and Embrace Hegemonic Maculinity”, in «Journal of Broadcasting & Electronic Media», vol. LIX, 2015, n. 1.
COHEN-ALMAGOR R. Confronting the Internet Dark Side. Moral and Social Responsibilities on the Free Highway, Cambridge University Press, Cambridge 2015.
DIRESTA R., “Algorithms, Affordances, and Agency”, in Social Media, Freedom of Speech and the Future of Our Democracy, L.C. Bollinger e G. Stone (a cura di), Oxford University Press, Oxford and New York 2022.
DOUEK E., “Content Moderation as Systems Thinking”, in «Harvard Law Review», vol. CXXXVI, 2022, n. 2.
EDELSON L., “Content Moderation in Practice”, in Media and Society After Technological Disruption, K. Langvardt e J. Hurwitz (a cura di), Cambridge University Press, Cambridge 2024.
ESCOBAR R., “Rivalità e mimesi. Lo straniero interno”, in «Filosofia», vol. VI, 1992, n. 1.
―, Metamorfosi della paura, Il Mulino, Bologna 1997.
―, Paura e libertà, Morlacchi, Perugia 2009.
FOX J. e TANG W.Y. “Sexism in Online Video Games: The Role of Conformity to Masculine and Social Dominance Orientation”, in «Computer in Human Behavior», 2014, n. 33.
GILLESPIE T. et al., “Expanding the debate about content moderation: scholarly research agendas for the coming policy debates”, in «Internet Policy Review», vol. IX, 2020, n. 4.
GILLESPIE T., “Regulation of and by Platforms”, in The SAGE Handbook of Social Media, J. Burgess, A. Marwick e T. Poell (a cura di), SAGE, Los Angeles 2018.
―, Custodians of the Internet. Platforms, Content Moderation and the Hidden Decisions that Shape Social Media, Yale University Press, New Haven and London 2018.
―, “Do Not Recommend? Reduction as a Form of Content Moderation”, in «Social Media + Society», vol. VIII, 2022, n. 3.
GIRARD R., Delle cose nascoste sin dalla fondazione del mondo. Ricerche con Jean-Michel Oughourlian e Guy Lefort, trad. it. di R. Damiani, Adelphi, Milano 1983.
―, La violenza e il sacro, R. Girard, trad. it. di O. Fatica e E. Czerkl, Adelphi, Milano 2003.
―, Menzogna romantica e verità romanzesca. Le mediazioni del desiderio nella letteratura e nella vita, trad. it. L. Verdi-Vighetti, Bompiani, Milano 2020.
GORWA R., BINNS R. e KATZENBACH C. “Algorithmic Content Moderation: Technical and Political Challenges in the Automation of Platform Governance”, in «Big Data», vol. VII, 2020, n. 1.
GORWA R., The Politics of Platforms Regulation. How governments Shape Online Content Moderation, Oxford University Press, Oxford and New York 2024.
HARWOOD M., “Living Death: Imagined History and the Tarrant Manifesto”, in «Emotions: History, Culture, Society», vol. V, 2021, n.1.
KELLER D., “Amplification and Its Discontents. Why Regulating of Online Content is Hard”, in «Journal of Free Speech», vol. CCXXVII, 2021, n. 1.
LEITCH S. e PICKERING P. (a cura di), Rethinking Social Media and Extremism, ANU Press, Canberra 2022.
LEITCH S., “The Making of a ‘made for social media’ massacre”, in Rethinking Social Media and Extremism, S. Leitch e P. Pickering (a cura di), ANU Press, Canberra 2022.
LYNCH T. et al., “Sexy, Strong and Secondary: a Content Analysis of Female Characters in Video Games across 31 Years”, in «Journal of Communication», vol. LXVI, 2016, n. 4.
LUMSDEN K. e HARMER E. (a cura di), Online Othering. Exploring Digital Violence and Discrimination on the Web, Palgrave Macmillan, Cham 2019.
MACKLIN G., “The Christchurch Attacks: Livestream Terror in the Viral Video Age”, in «CTC Sentinel», vol. XII, 2019, n. 6.
MASSANARI A.L., Gaming Democracy. How Silicon Valley Leveled Up the Far Right, MIT Press, Cambridge (MA) 2024.
MORTENSEN T.E., “Anger, Fear, and Games: The Long Event of Gamergate”, in «Games and Culture», vol. XIII, 2018, n. 8.
POST R., “Concluding Thoughts. The legality and Politics of Hatred”, in Hate, Politics, Law, T. Brudholm e B. Schepelern Johansen (a cura di), Oxford University Press, Oxford and New York 2018.
RICHARDSON-SELF L., “Woman-Hating: on Misogyny, Sexism, and Hate Speech”, in «Hypatia», vol. XXXIII, 2018, n. 2.
―, Hate Speech Against Women Online, Rowman & Littlefield, London 2021.
SCIACCA F., Il potere della vendetta. Quattro lezioni, AlboVersorio, Milano 2018.
SUNSTEIN C.R., #Republic: Divided Democracy in the Age of Social Media, Princeton University Press, Princeton 2017.
SZANTO T., “In Hate We Trust: The Collectivization and Habitualization of Hatred”, in «Phenomenology and the Cognitive Sciences», vol. XIX, 2020, n. 3.
WALDRON J., The Harm in Hate Speech, Harvard University Press, Cambridge (MA) 2012.
ZEMPI I. e SMITH J. (a cura di), Misogyny as hate crime, Routledge, Abingdon and New York 2022.
SITOGRAFIA
<https://transparency.meta.com/it-it/policies/community-standards/hate-speech/> (consultato il 25/03/25).
<https://transparency.meta.com/it-it/policies/community-standards/violence-incitement/> (consultato il 25/03/25).
<https://about.fb.com/news/2019/03/update-on-new-zealand/> (consultato il 25/03/25).
<https://www.theesa.com/resources/essential-facts-about-the-us-video-game-industry/> (consultato il 25/03/25).
Downloads
Published
Issue
Section
License
“Post-Filosofie” utilizza Open Journal Systems 2.4.8.5, che è un software open source per la gestione e la pubblicazione di riviste sviluppato, supportato e distribuito gratuitamente dal Public Knowledge Project sotto la GNU General Public License.
Gli autori che pubblicano su questa rivista accettano le seguenti condizioni:
- Gli autori mantengono i diritti sulla loro opera e cedono alla rivista il diritto di prima pubblicazione dell'opera, contemporaneamente licenziata sotto una Licenza Creative Commons - Attribuzione che permette ad altri di condividere l'opera indicando la paternità intellettuale e la prima pubblicazione su questa rivista.
- Gli autori possono aderire ad altri accordi di licenza non esclusiva per la distribuzione della versione dell'opera pubblicata (es. depositarla in un archivio istituzionale o pubblicarla in una monografia), a patto di indicare che la prima pubblicazione è avvenuta su questa rivista.
- Gli autori possono diffondere la loro opera online (es. in repository istituzionali o nel loro sito web) prima e durante il processo di submission, poichè può portare a scambi produttivi e aumentare le citazioni dell'opera pubblicata (Vedi The Effect of Open Access).
"Post-Filosofie" uses Open Journal Systems 2.4.8.5, which is an open source journal management and publication software developed, supported and distributed free of charge by the Public Knowledge Project under the GNU General Public License.
Authors publishing in this journal accept the following conditions:
- Authors retain the rights to their work and assign to the journal the right of first publication of the work, simultaneously licensed under a Creative Commons Licence - Attribution that allows others to share the work indicating intellectual authorship and first publication in this journal.
- Authors may enter into other non-exclusive licensing agreements to distribute the published version of the work (e.g., deposit it in an institutional repository or publish it in a monograph), as long as they indicate that the first publication was in this journal.
- Authors may disseminate their work online (e.g. in institutional repositories or on their website) before and during the submission process, as it may lead to productive exchanges and increase citations of the published work (See The Effect of Open Access).
