Osservando i nostri tempi

L'invisibilità matrigna dell'Intelligenza Artificiale

di Domenico Cravero

Viene chiamato “algocrazia” il potere sociale e politico esercitato dagli algoritmi. Essi decidono cosa devi sapere (filter bubbles); chi puoi incontrare (la visibilità del tuo profilo); se meriti un prestito (sistemi di credit scoring); quanto devi pagare un servizio (sistemi dynamic pricing); chi supererà un colloquio (Sistemi Applicant Tracking Systems); chi viene licenziato (sistemi della gig economy); come si deve lavorare, come monitorare i cittadini. Si crea una forma di governo invisibile e non democratico, dove le decisioni umane vengono sostituite da calcoli privi di empatia e difficili da contestare.

L’IA crea nuovi agenti, plasma abitudini, aspettative, pervade anche le nostre rappresentazioni. Fa sorgere istituzioni inedite poiché non si limita a digitalizzare quelle esistenti, ma ridefinisce le regole del gioco sociale, politico ed economico. Altera profondamente il modo in cui si crea la fiducia, si gestisce il potere e si prendono le decisioni pubbliche. Diventano necessarie nuove autorità di governance e regolamentazione, istituzioni pubbliche o consorzi privati dedicati alla certificazione dei dati e al contrasto dei deepfake, organismi di vigilanza transnazionali (come l'Ufficio per l'IA dell'Unione Europea). L’impatto di queste tecnologie sta nel loro potere computazionale (la capacità quantitativa di un sistema hardware di elaborare dati e calcoli in un dato tempo, ma anche, di conseguenza, la capacità qualitativa degli algoritmi e delle tecnologie digitali di strutturare le nostre vite). Questo impatto è radicale perché il digitale ha smesso di essere un semplice strumento e si è trasformato nell'ambiente invisibile in cui si svolge la nostra intera vita biologica, sociale ed economica.

Risultati impressionanti, come grossolani e possibili errori

Ai tempi della mediosfera digitale assistiamo quindi a un cambiamento profondo nel modo in cui concepiamo la realtà. Presi e affascinati dalla prospettiva di una scienza matematica universale, come alfabeto del pensiero umano, siamo portati a ritenerla “capace” di risolvere digitalmente ogni disputa e operazione. L’Artificial Agency ha un impatto rilevante sulla costruzione dei significati e incide sull’esperienza umana incarnata. L’IA tuttavia non può essere considerata metafora dell’intelligenza umana; è piuttosto una catacresi (una figura retorica che consiste nell'usare una parola al di là del suo significato proprio per indicare qualcosa che nella lingua non ha un termine specifico), che promette di raggiungere alcuni scopi indicati dall’intelletto in modo efficiente e performante. I risultati sono effettivamente impressionanti, così come grossolani sono i suoi possibili errori e quasi inavvertibili i criteri di scelta dei contenuti che essa restituisce alle nostre domande.

Ogni elogio rischia di mascherare la nostra crescente dipendenza, poiché l’IA addestra a desiderare ciò che essa è in grado di offrire, modellando le nostre attese. Si finisce così che i messaggi minacciosi riguardo ai suoi pericoli suscitino più interesse della speranza dell’aiuto che questi straordinari strumenti possono offrire all’umanità. Ci è richiesta quindi un’attitudine costante al pensiero critico, ben informato della realtà dell’IA, centrato sia sull’uso che se ne può fare, sia sulle forme di delega e sulle condotte che induce o limita. Gli ambienti artificiali intervengono sulle coordinate percettive fondamentali, riorganizzano i gesti, tempi, le forme dell’attenzione.

Chi è responsabile degli errori

L’infosfera (l'intero spazio delle informazioni, dei dati e delle conoscenze, in cui i confini tra il mondo fisico-analogico e quello digitale sono completamente superati) è un’esperienza virtuale situazionale, istantanea, interattiva. Nuove e potenzialmente drammatiche sono anche alcune domande che esigono risposte consapevoli e intelligenti: “Quali sono le condizioni che rendono possibile che una cosa (una notizia, un’immagine, un’indicazione) appaia reale alla mente umana?”. “Quali corpi, quali mondi, quali esperienze, tendono a essere autorizzate ed enfatizzate oppure rischiano di essere vietate, dimenticate al loro apparire?”. “Chi è responsabile degli eventuali errori compiuti dall’IA?”.

Le risposte a domande così impegnative sono facilitate dalla consapevolezza di che cosa possieda l’intelligenza umana che quella artificiale non ha e non potrebbe avere. Le macchine non hanno carne, non hanno vita, non pensano e non possono accedere al mondo dello spirito. L’umano rimane antitetico e complementare rispetto alla tecnica. Il tentativo simulato e riduttivo di imitazione della mente naturale ci permette di riconoscere meglio, per contrasto, l’inimitabile della mente umana (come la creatività, la volontà, la ragione, l’affettività) e fa luce sulla realtà dello spirito: la capacità di amare, il bisogno di senso, la forza del desiderio e non solo della pulsione.