Menu

Gli algoritmi sono attori sociali? Storia di un cambio d’epoca

Incontri serali

18.02.2020

di Alessandro Moscone

È il professor Paolo Benanti, docente presso la Pontificia Università Gregoriana e frate dell’ordine francescano, a dare inizio al ciclo di “Etica ed economia” presso il Collegio Universitario Lamaro-Pozzani. Un incontro illuminante, in cui vengono mostrati alcuni dei più interessanti aspetti del “disagio” costitutivo del nostro cambio d’epoca, rimanendo sempre nella volontà, genuinamente etica, di offrire domande e spunti di riflessione, piuttosto che dispensare risolutive sentenze.

Una “serie di suggestioni” inaugurano il discorso del di Benanti: le sculture del polacco Igor Mitoraj, nella sua lettura post-moderna di una classicità perduta che esibisce il proprio deterioramento, presentano in qualche modo una chiave di lettura della nostra stessa epoca e del suo inscindibile e peculiare senso di smarrimento. La crisi generale della nostra capacità di afferrare la realtà e di comprendere noi stessi porta inesorabilmente alla domanda precipua dell’incontro: “Perché siamo così a disagio in questo momento storico?”.

Oggi, per la prima volta nella storia, un artefatto umano, perdendo ogni connotazione di utensile o di strumento industriale, si configura, invece, come una vera e propria “machina sapiens”, latrice in questo senso di un radicale mutamento di prospettiva. È forse questa una pretesa eccessiva per un semplice artefatto, pur sempre frutto della mente umana? Volgendo lo sguardo alla storia dell’uomo, appare, tuttavia, evidente e inoppugnabile il verificarsi, in forme diverse, di avvenimenti di questo genere. Sigmund Freud afferma che il narcisismo dell’uomo subì “la sua prima grande ferita” nel XVI secolo, quando, da una parte il telescopio e dall’altra il microscopio, frutto di differenti applicazioni della medesima invenzione, svelano rispettivamente l’infinitamente grande e l’infinitamente piccolo. È la fine dell’antropocentrismo, è un cambiamento epocale per la storia del pensiero dell’uomo.

Le più recenti tecnologie ci permettono, invece, di analizzare ed osservare l’infinitamente complesso. Tale trasformazione muta ineluttabilmente la stessa descrizione che diamo dell’universo e di noi stessi, causando una vera e propria alterazione dei modelli esplicativi ed epistemologici della realtà. Il Professor Benanti ricorre ad un interessante espediente, basato sulla semplice domanda: “piove?”. Se un filosofo classico avrebbe risposto in termini teleologici (“piove per far crescere l’erba”), senz’altro uno scienziato del XVI secolo avrebbe fornito una spiegazione scientifica del fenomeno atmosferico. Ma con la crisi epistemologica di inizio Novecento, crollano tutte le certezze che si ritenevano acquisite: oggi la nostra risposta sarebbe, ed è nei fatti, determinata da un modello correlativo (“piove là dove vengono aperti gli ombrelli”).

Per quanto banale o semplicistica possa sembrare, la correlazione permette un controllo tecnico efficace, tanto che, ad esempio, viene adoperato gli stessi algoritmi del machine learning. Possiamo, tuttavia, parlare propriamente di conoscenza? Di che tipo di conoscenza si tratta? La fragilità e le debolezze intrinseche al modello correlativo emergono grazie al racconto di un episodio, inerente al lavoro svolto da Abraham Wald e Milton Friedman nel corso della Seconda Guerra Mondiale per ottimizzare l’aereo militare statunitense: secondo il modello correlativo, ossia tenendo pedissequamente fede ai dati, Friedman avrebbe commesso un errore, che Wald prontamente corregge (in questo specifico caso, un errore basato sul survival bias).

Nelle scelte umane esiste, pertanto, qualcosa che va al di là dell’asettico dato, che tiene in considerazione anche variabili a cui viene associato un valore pari a zero e, pertanto, ritenute assolutamente trascurabili da un sistema fondato sulla correlazione. In tale scarto tra valore e significato si inserisce in modo prorompente e indiscutibile l’etica, che si fonda proprio sul significato e non solo sul valore.

Il Professor Benanti si avvia alla conclusione tenendo fede al proprio iniziale proposito, lasciando dunque agli studenti del Collegio Universitario Lamaro-Pozzani una serie di questioni destinate ad essere proficuamente dibattute e a fornire spunti preziosi per future e feconde riflessioni. Quale modello di scienza rappresenta quella fondata sui dati? Quali capacità predittive possono avere gli algoritmi e quali tipi di scelte possiamo permettere loro? Non ha forse l’algoritmo dimostrato, nelle sue più recenti applicazioni (si pensi all’e-commerce o ai social network) di poter diventare produttivo di un certo comportamento, oltre che predittivo, se applicato a dati da fonti genericamente “umane”? E, infine, in quali contesti tale produttività, in modo simultaneamente avvincente ed inquietante, può rendere l’algoritmo un attore sociale a tutti gli effetti, dotato di un proprio peculiare potere?