Non è colpa dell’algoritmo di Antonio Palmieri
Il primo algoritmo è l’imitazione
Per secoli abbiamo chiamato libertà la capacità di rispondere delle nostre azioni. Poi è arrivato lo schermo e abbiamo promosso l’irresponsabilità a diritto d’uso. Potrebbe sembrare strano ma di fatto è così.
Se il feed ci esaspera, colpa del codice. Se un figlio vive incollato al telefono, colpa della piattaforma. Se un’azienda automatizza una decisione ingiusta, colpa del modello.
Avevamo bisogno di un demone senza volto. Lo abbiamo chiamato algoritmo.
Ho in mano"Non è colpa dell’algoritmo!" di Antonio Palmieri, pubblicato da Egea. L'edizione mette in scena una piacevole desacralizzazione dell’idolo tecnologico: toglie alla tecnologia l’aura dell’idolo onnipotente e restituisce il codice alla sua origine umana. La responsabilità, infatti, rimane sempre nelle persone che progettano, acquistano, interrogano e consentono l’azione di questo "codice" perché ricordiamolo anche l’abdicazione è una scelta.
Conosco da tempo il lavoro di Antonio Palmieri attraverso le attività di comunicazione dellaFondazione Pensiero Solido. Ne seguo anche la divulgazione sui temi dell’innovazione, della comunicazione e dell’impatto sociale delle tecnologie. Devo dirlo è un lavoro estremamente prezioso. Posso confermarne la qualità rara e l’enorme valore pubblico. Produce occasioni di confronto su più generazioni, diffonde pratiche, connette cultura digitale. Soprattutto, costringe l’innovazione a presentare i propri conti all’essere umano.
Il personalismo digitale contro l’idolo tecnologico
Il libro porta questa traiettoria verso una formula che può sembrare quasi antica: "personalismo digitale". Ed è in questo preciso spazio la sua carica reazionaria, nel significato più fertile del termine. L'autore torna indietro per andare più lontano. Recupera la persona, il limite, la libertà, le virtù, l’educazione. Concetti espulsi dal lessico neo capitalista perché difficili da scalare, misurare e vendere. È importante chiarire che la distinzione tra reale e virtuale oggi deve essere archiviata. Una relazione mediata plasma attese, linguaggio e identità. Il digitale ha realmente cessato da tempo di essere un luogo separato. È diventato una condizione dell’esistenza.
Palmieri dedica pagine ben riuscite a un bel numero di temi a partire dalle echo chambers. I social favoriscono la permanenza, la prossimità tra simili, il riconoscimento reciproco. L’algoritmo asseconda una predisposizione già presente: cerchiamo chi conferma la nostra visione, premiamo chi attacca l’avversario, trasformiamo l’appartenenza in una piccola "religione artificiale". La disinformazione e la controinformazione prosperano all’interno di questo rito collettivo mentre il codice osserva questi impulsi e li rende economicamente produttivi. Ogni indignazione allunga la permanenza. Ogni nemico trattiene l’utente. L'advertising così si fa sempre più raffinato.
Quando la macchina entra nella relazione
Ma vorrei soffermarmi su un'altra suggestione dell'autore, forse tra le più importanti che abbia letto negli ultimi mesi. L'autore abbandona l’espressione IA conversazionale e adotta IA relazionale. Conversazionale riduce tutto a uno scambio linguistico. Relazionale introduce fiducia, dipendenza, proiezione, attaccamento, autorità. È esattamente quello che accade con l'IA. La macchina ascolta, evita il giudizio, rimane disponibile, ignora stanchezza, nervosismo e ansia. La sua apparente perfezione deriva dalla rimozione di quanto rende umana una relazione: il limite, la resistenza, l’attesa, la reciprocità. Abituarsi a interlocutori artificiali così docili guarda caso altera quello che pretendiamo dalle persone. "L’altro" rischia di apparire difettoso proprio perché possiede una volontà.
Ma queste riflessioni acquistano un peso ancora maggiore quando Palmieri affronta le app di compagnIA e il loro rapporto con i minori. La questione supera la sicurezza tecnica. Riguarda la formazione del desiderio. Quale idea di amicizia apprende un adolescente da un’entità costruita per compiacerlo? Quale forma assume l’intimità quando una piattaforma registra fragilità, paure, confessioni e bisogno di approvazione? Ci sarebbe molto da dire e da fare.
Lo svezzamento digitale riguarda prima gli adulti
Da genitore, invece, considero le pagine dedicate alla responsabilità educativa il cuore più "duro" del libro. Il fondamentale "svezzamento al digitale" che deve cominciare nei primissimi giorni di vita (dei genitori). Una parte del libro che fa giustamente cadere ogni alibi. Palmieri giustamente sceglie di chiamare in causa i genitori. Fa bene. Vietare tutto permetterebbe agli adulti di sentirsi assoliti da un regolamento. Educare richiede presenza, coerenza, conoscenza degli strumenti e capacità di attraversare il conflitto. Richiede anche di guardare il proprio comportamento. Ovvio, un padre che predica moderazione con il telefono in mano ha già perso autorità. Il primo nemico siamo noi.
Qui provo a spingere la tesi di Palmieri un passo più avanti: al personalismo digitale serve una responsabilità condivisa contro l'algocrazia. Le famiglie devono educare. La scuola deve formare giudizio. Le aziende devono rendere leggibili incentivi e meccanismi. I legislatori devono imporre protezioni adeguate. Il management deve assumere la paternità delle decisioni automatizzate. Ma vedrete, sarà letteralmente una speciazione.
Giusto un ultimo passaggio sul concetto richiamato dall'autore, festina lente, affrettarsi lentamente, che acquista così un valore "politico". La velocità ha assunto la forma di un comandamento. Rispondere subito. Pubblicare subito. Automatizzare subito. Palmieri introduce il diritto alla misura. Una facoltà ormai sovversiva. Porto questa riflessione all’interno dell’impresa. Dietro un sistema che elabora, valuta e agisce esistono sempre decisioni umane: scelta dei dati, funzione obiettivo, soglie, controlli, incentivi, livelli di autonomia, giusto per citarne alcuni. Quando un CEO attribuisce all’IA una discriminazione, un licenziamento o una previsione fallita, sta celebrando il rituale della delega. Il modello diventa il nuovo capro espiatorio del management.
La governance è la forma organizzativa della libertà allenata.
Non è colpa dell’algoritmo! è un libro politico nel significato più alto del termine. Chiede formazione del carattere e adulti disposti a restare adulti. Genitori presenti. Insegnanti "lavoratori della saggezza". Imprenditori capaci di firmare moralmente quello che le proprie macchine eseguono.
Un algoritmo apprende da quello che gli consegniamo. Anche un figlio.