La devianza come errore di sistema. Bias algoritmici e resilienza nel governo dell’incertezza

Autori

  • Umberto Marzo Università degli Studi di Bari Aldo Moro

DOI:

https://doi.org/10.15162/2240-760X/2513

Parole chiave:

Devianza, governance algoritmica, resilienza, razionalità predittive, governo dell’incertezza, deviance, algorithmic governance, resilience, predictive rationalities, governing uncertainty

Abstract

Il contributo analizza la trasformazione contemporanea della devianza nelle società caratterizzate dall’espansione della governance algoritmica e delle razionalità predittive. Attraverso una ricostruzione genealogica che si sviluppa da Canguilhem a Foucault, il saggio mostra come la devianza sia progressivamente passata dall’essere concepita come trasgressione della norma a configurarsi come variazione statistica e, infine, come anomalia probabilistica. Su questa base vengono esaminate le logiche classificatorie dei sistemi algoritmici, evidenziando il loro ruolo nella produzione di identità, profili di rischio e forme differenziali di inclusione ed esclusione. L’analisi si concentra quindi sul paradigma della resilienza, interpretato come razionalità politica che tende a ricondurre vulnerabilità e marginalità a questioni di adattamento individuale. La tesi proposta è che, nelle attuali forme di governo dell’incertezza, la devianza venga sempre più frequentemente ricodificata come errore di sistema: non una minaccia esterna all’ordine sociale, ma una variabile prevista, calcolata e funzionale al perfezionamento dei dispositivi di governo. Ne deriva una progressiva neutralizzazione della capacità critica dello scarto e una ridefinizione delle condizioni stesse del conflitto politico.

 

This article examines the contemporary transformation of deviance in societies increasingly shaped by algorithmic governance and predictive rationalities. Through a genealogical reconstruction drawing on Canguilhem and Foucault, it argues that deviance has progressively shifted from being understood as a transgression of the norm to being conceived as a statistical variation and, ultimately, as a probabilistic anomaly. On this basis, the paper explores the classificatory logics embedded in algorithmic systems, highlighting their role in the production of identities, risk profiles, and differential forms of inclusion and exclusion. The analysis then turns to the paradigm of resilience, interpreted as a political rationality that tends to recast vulnerability and marginality as matters of individual adaptation. The central argument is that, within contemporary forms of governing uncertainty, deviance is increasingly recoded as a system error: not an external threat to social order, but a calculated and anticipated variable that contributes to the continuous refinement of governmental dispositifs. The result is a progressive neutralisation of the critical potential of deviation and a reconfiguration of the very conditions under which political contestation can emerge.

Riferimenti bibliografici

Amoore L. (2011). Data Derivatives: On the Emergence of a Security Risk Calculus for Our Times, Theory, Culture & Society, 28(6), pp. 24-43. DOI: 10.1177/0263276411417430.

Amoore L. (2020). Cloud Ethics. Algorithms and the Attributes of Ourselves and Others, Durham and London: Duke University Press.

Benjamin R. (2019). Race After Technology: Abolitionist Tools for the New Jim Code, Cambridge: Polity Press.

Boltanski, L. (2011). On Critique: A Sociology of Emancipation, Cambridge: Polity Press.

Bowker G. C., Star S. L. (1999). Sorting things out. Classification and Its Consequences, Cambridge-London: The MIT Press.

Brown, W. 2015. Undoing the Demos: Neoliberalism’s Stealth Revolution. New York: Zone Books.

Bucher, Taina. 2018. If... Then: Algorithmic Power and Politics. Oxford: Oxford University Press.

Canguilhem G. (1998) [1966]. Il normale e il patologico, Torino: Einaudi.

Chandler D. (2015). Resilience and the ‘everyday’: beyond the paradox of ‘liberal peace’, Review of International Studies, 41(1), pp. 27-48. DOI:

10.1017/S0260210513000533.

Cheney-Lippold J. (2011). A New Algorithmic Identity: Soft Biopolitics and the Modulation of Control, Theory, Culture & Society, 28(6), pp. 164-181. DOI: 10.1177/0263276411424420.

Durkheim É. (1895) 2007. Le regole del metodo sociologico, Milano: Comunità.

Ericson R.V., Haggerty K.D. (1997). Policing the Risk Society, Toronto: University of Toronto Press.

Eubanks V. (2018). Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor, New York: St. Martin's Press.

Foucault M. (2005). Sicurezza, territorio, popolazione. Corso al Collège de France (1977-1978), Milano: Feltrinelli.

Id. (2010) [1999]. Gli anormali. Corso al Collège de France (1974-1975), Milano: Feltrinelli. E-book.

Id. (2011a) [1961]. Storia della follia nell’età classica, Milano: Rizzoli. E-book.

Id. (2011b) [1976]. La volontà di sapere. Storia della sessualità 1, Milano: Feltrinelli.

Id. (2014) [1975]. Sorvegliare e punire. Nascita della prigione, Torino: Einaudi.

Fourcade M., Healy K. (2017). Seeing Like a Market, Socio-Economic Review, 15(1), pp. 9-29. doi: 10.1093/ser/mww033.

Girrbach L., Alaniz S., Smith G., Akata Z. (2025). A Large Scale Analysis of Gender Biases in Text-to-Image Generative Models. arXiv:2503.23398.

Hacking I. (2013). Making up people. In: Salih S. (a cura di), Theories of Desire: From Freud to Butler, London-New York: Routledge, pp. 69-88.

Hill K. (2022). A Dad Took Photos of His Naked Toddler for the Doctor. Google Flagged Him as a Criminal, in The New York Times, 21 August 2022 (https://www.nytimes.com/2022/08/21/technology/google-surveillance-toddler-photo.html).

Keddell E. (2014). The Ethics of Predictive Risk Modelling in the Aotearoa/New Zealand Child Welfare Context: Child abuse prevention or neo-liberal tool?, Critical Social Policy, 35(1), pp. 69-88.

Kitchin R. (2016). Thinking critically about and researching algorithms, Information, Communication & Society, 20 (1), pp. 14-29. https://doi.org/10.1080/1369118X.2016.1154087.

O’Neil C. (2017). Armi di distruzione matematica. Come i Big Data aumentano la disuguaglianza e minacciano la democrazia, Milano: Bompiani. E-book.

Noble S. U. (2018). Algorithms of Oppression. How Search Engine Reinforce Racism, New York: New York University Press.

Parsons T. 1951. The Social System, New York: Free Press.

Pasquale F. (2015). The Black Box Society. The Secret Algorithms That Control Money and Information, Cambridge: Harvard University Press.

Rancière J. (1999). Disagreement. Politics and Philosophy, Minneapolis: University of Minnesota Press.

Rose N. (1999). Powers of Freedom: Reframing Political Thought, Cambridge: Cambridge University Press.

Rouvroy A., Berns T. (2013). Gouvernementalité algorithmique et perspectives d’émancipation. Le disparate comme condition d’individuation par la relation?, Réseaux, 177 (1), pp. 163–196. DOI: 10.3917/res.177.0163.

Scott J.C. (1998). Seeing Like a State. How Certain Schemes to Improve the Human Condition Have Failed, New Haven-London: Yale University Press.

Tamburrini G. (2020). Etica delle macchine. Dilemmi morali per robotica e intelligenza artificiale, Roma: Carocci. E-book.

Zuboff S. (2019). Il capitalismo della sorveglianza. Il futuro dell’umanità nell’era dei nuovi poteri, Roma: LUISS University Press.

Downloads

Pubblicato

2026-06-08