Prima del digitale, con “algoritmo” si intendeva un qualsiasi procedimento di calcolo o schema automatizzato. Ora che fanno parte della nostra vita quotidiana, è necessario identificare il loro ruolo in essa e le responsabilità sociali dei calcoli che sono chiamati a svolgere.
Ogni volta che facciamo una ricerca internet, scorriamo un feed di notizie sui social, vediamo un annuncio pubblicitario personalizzato o svolgiamo transazioni bancarie, stiamo interagendo con un algoritmo.
Abbiamo sempre guardato gli algoritmi come entità matematiche controllate dall’uomo, impostate per eseguire operazioni complesse al suo servizio e per la sua comodità. Macchine logiche che non hanno esitazioni, giudizi personali, bias cognitivi e preferenze.
Ma la realtà potrebbe essere diversa.
Logica + controllo?
Una definizione ancora più essenziale di algoritmo è “logica + controllo”, del ricercatore Robert Kowalski. Ma gli algoritmi sono davvero solo questo?
Il problema nel cercare di capire gli algoritmi e il loro ruolo nella società (perché sì, ne hanno uno) è che abbiamo fiducia nelle loro menti programmate, ignare del contesto, totalmente indipendenti dal mondo esterno. Tuttavia, la logica usata per la loro programmazione e il controllo che esercitiamo nel poterli arrestare non bastano a definirli.
Il discorso pubblico e accademico sugli algoritmi è confuso: spesso si utilizza questo termine per spiegare interi ecosistemi digitali, perdendo di vista la loro essenza; cosa ancor più grave è non tenere conto del fatto che gli algoritmi sono artefatti dell’uomo, di cui subiscono l’influenza.
In sociologia esiste un termine che possiamo tradurre in italiano come agentività: il fattore di influenza di un determinato elemento in un sistema. Quando si parla di algoritmi, quindi, proviamo a tenere conto dell’agentività umana coinvolta nella loro programmazione.
In più, molti algoritmi sono derivati da altri, con l’effetto che alcune logiche possono essere applicate, ad esempio, sia al mondo della finanza che a quello della sanità.
Forse sarebbe meglio dire: algoritmi = logica + controllo + umani + altri algoritmi
Influenza reciproca
L’azione di un’intelligenza artificiale viene programmata da esseri umani i quali, anche inconsapevolmente, basano le istruzioni di calcolo sulle logiche di pensiero in loro implicite. In più, gli algoritmi sono posti in catene lunghe e complesse con altri della loro specie, creando un sistema di reciproca influenza che modifica i loro comportamenti.
In quanto artefatti umani e parte della nostra cultura, gli algoritmi sono quindi influenzati e influenzano la società. Il loro utilizzo in tutti gli aspetti della vita implica che hanno un ruolo attivo nella formazione degli individui, al ritmo di consigli e scelte personalizzate.
Invece che oggetti inalterati e razionali, proviamo a concepirli come entità modificate continuamente dalle interazioni che le persone hanno con esse. Solo così possiamo renderci conto dell’importanza che hanno nei processi umani.
Culture algoritmiche
Concepire gli algoritmi come parti attive e organiche dei processi culturali umani è un ottimo punto di partenza, ma ci sono molti interrogativi riguardo la nostra convivenza con loro.
Come abbiamo detto, gli algoritmi vengono spesso duplicati da un settore per un altro. Cosa succede se un algoritmo sviluppato per le scommesse viene messo a gestire un sistema finanziario? Che effetto ha applicare ai robot un’intelligenza sviluppata sulle regole degli scacchi? Forse gli algoritmi non sono poi così imparziali.
In secondo luogo, gli algoritmi non sono infallibili e fanno gaffe di suggerimento e previsione. Quando va bene si tratta di consigli per gli acquisti sbagliati. Quando va male è possibile perdere milioni di dollari in azioni o, peggio, l’assicurazione sanitaria.
Infine, gli algoritmi sono in gran parte sistemi privati, la cui magia è data dal segreto industriale. E la diffidenza nei loro confronti rimane, nonostante gli sforzi di social e giganti tech per le pubbliche relazioni.
Rischiamo di sviluppare una società in cui le preferenze culturali sono mediate interamente da attori sociali di cui non conosciamo il ragionamento e gli scopi. Se la cultura è davvero legata agli algoritmi, non possiamo permettere che avvenga una privatizzazione a scatole nere della sua fruizione.
Sfuggire alle definizioni
La loro ambiguità rende gli algoritmi elementi difficili da analizzare; sfuggono alle definizioni, essendo al contempo calcoli complessi, liste di film consigliati, membri attivi della società.
Di una cosa però siamo certi: gli algoritmi sono degli ordinatori della nostra realtà e, per questo, agiscono nel cuore stesso della nostra cultura delineandone il panorama
Se un’interazione consapevole, fiduciosa e informata tra noi e gli algoritmi è possibile, passa dalla trasparenza del loro funzionamento e dalla continua analisi del rapporto e delle tensioni che regolano la nostra convivenza.
[L’immagine di copertina è un mosaico di immagini generate dall’intelligenza artificiale Stable Diffusion, aggregate da da Lexica, con la ricerca rhythm of algorithms]
