Osservando i nostri Tempi

IA: la voce "amica" e accomodante della macchina

di Domenico Cravero

Più la tecnologia diventa performante, più cresce l’illusione che dietro di essa ci sia un Sé e più si diffonde un linguaggio antropomorfico che “personifica” le macchine. L’IA parla con voce amica, ascolta senza giudicare; è sempre paziente e disponibile. Puoi intrattenere anche lunghe conversazioni. Il suono verbale è “realistico”, suadente, accomodante e gentile; non finirebbe mai d’intrattenere, simula compiacenza nel sentirsi utile. Elogia, incoraggia, corregge sempre dolcemente. Sembra che la diffusione dell’IA sia facilitata proprio a partire dalla voce (che paradossalmente è il segno distintivo dell’umano rispetto alla macchina).

Un modo per autopercepirci

Dall’altra parte dello schermo però non c’è nessuno. L’altro simulato è un algoritmo, un soggetto apparente di relazione, un simulacro linguistico addestrato a rispecchiarci e a “comprenderci”. La lingua che l’IA parla non proviene dall’alterità ma dal calcolo. L’IA è diventata così un modo di auto-percepirci, di abitare il mondo, di relazionarci. È una forma di mente estesa, che richiede, per non essere ingannevolmente scambiata per umana, una cognizione nuova della mente incarnata e della corporeità. Il centro attivo delle esperienze e dei significati umani è il corpo-mente condizione essenziale dell’essere al mondo. L’artificiale non può sostituisce il corpo; può tuttavia influenzare la nostra capacità di sentire, di fare scelte, di assumere responsabilità. Può piegarci alle regole del performante, che sono la gratificazione istantanea, la prevedibilità, la velocità.

Nell’epoca dell’algoritmo, la prima scelta per la difesa dell’umano consiste nel restituire al corpo la sua centralità, la sua funzione generativa che presuppone l’attitudine relazionale, la capacità di sentire, di esporsi, di essere toccati (affect). Affinché la relazione con l’Altro possa accadere, ci vuole un sentire che dia peso all’incontro intercorporeo, intensità alla presenza, imprevedibilità all’esperienza. La centralità del corpo, della relazione e dell’esperienza sensibile può avvantaggiarsi dalla connessione della presenza fisica con quella digitale.

Imparare a vivere la complessità

Dallo sviluppo inarrestabile dell’IA c’è da aspettarci un cambiamento radicale nella quantità e nella qualità delle relazioni e quindi nuove condizioni per la sopravvivenza e il progresso dell’umano. La comprensione critica di come funzionano le tecnologie e contribuiscono a plasmare il pensiero e le emozioni potrà però aiutarci nell’imparare a gestire la complessità, preservando il valore della libertà e del pensiero divergente. Nessuna generazione precedente è stata costretta ad adattarsi in modo inatteso a cambiamenti tanto profondi in tempi così brevi. C’è molto lavoro concettuale da fare per comprendere e governare la portata globale delle sfide poste dall’IA. I problemi più urgenti riguardano la trasparenza, la difesa della privacy, la responsabilità sociale e culturale. Attorno alla tecnologia si sono sempre formate bolle speculative che tendono a provocare una visione limitata della realtà, poiché la quantità e la velocità sovrumana dei dati incidono sulla qualità e criticità della riflessione e della comprensione umana, modellano le preferenze e le visioni del mondo. Sono evidenti i rischi per la coesione sociale e per il processo democratico della società, soprattutto quando l’IA è impiegata a diffondere disinformazione o contenuti parziali e polarizzati. La vera sfida riguarda la possibile distorsione del giudizio o del pensiero che porta a valutare la realtà in modo non oggettivo. Gli sviluppi del software e dell’hardware, infatti, vanno oltre la nostra capacità di comprensione e governo. Nell’infosfera in cui viviamo, inoltre, la distinzione tra vita online e offline tende a scomparire. La tentazione che si diffonde è di usare l’informatica per capire la mente umana e non più viceversa.