Geopolitica dell'incertezza (II): Oggi chi decide e governa l’IA?

di Luisella Fassino

Dopo la riflessione sulla leadership e sulla fragilità delle democrazie, un'altra domanda emerge dal Seminario della Fondazione Marisa Bellisario: chi sta progettando il nostro futuro tecnologico?

Se il mondo geopolitico sembra riscoprire il fascino dell'uomo forte, quello tecnologico rischia di presentarci un problema ancora più complesso: trasferire progressivamente alle macchine decisioni che incidono sulla nostra vita, senza avere piena consapevolezza di chi le abbia progettate e secondo quali criteri. È una questione che riguarda certamente le donne, ma che dovrebbe interrogare tutti.

Le preoccupazioni di Henry Kissinger

Dalla velocità delle decisioni militari alla gestione delle infrastrutture tecnologiche, l'intelligenza artificiale pone una questione fondamentale: quanto controllo resterà nelle mani dell'uomo? Henry Kissinger, segretario di Stato durante la presidenza Nixon, negli ultimi anni della sua vita, aveva dedicato crescente attenzione all'intelligenza artificiale, individuando rischi che, per portata strategica, richiamavano quelli dell'era nucleare. La sua preoccupazione riguardava soprattutto la velocità con la quale sistemi sempre più autonomi avrebbero potuto elaborare informazioni e produrre decisioni, anche in situazioni di crisi militare.

Durante la Guerra fredda, il pericolo nucleare era almeno governato, pur con enormi rischi, da processi decisionali umani e da sistemi di deterrenza relativamente riconoscibili.

L'intelligenza artificiale introduce invece un elemento nuovo: la possibilità che la rapidità dei processi tecnologici superi i tempi necessari alla valutazione umana, favorendo escalation imprevedibili. Una macchina può elaborare milioni di informazioni in pochi istanti. Ma siamo certi che sia sempre in grado di comprendere le conseguenze politiche, morali e umane di una decisione? E soprattutto, siamo certi che l'essere umano conserverà il tempo e la capacità di intervenire?

Il pensiero corre inevitabilmente alla guerra tra Russia e Ucraina e al ruolo assunto da Starlink, la rete satellitare legata a Elon Musk. Non si tratta di un sistema d'arma autonomo, in mano a stati sovrani, ma di un'infrastruttura privata diventata strategica per le comunicazioni in un conflitto. Le controversie sulle decisioni relative al suo utilizzo hanno dimostrato quanto possa essere delicata la dipendenza da tecnologie controllate da soggetti privati assetati di potere e ricchezza sconfinata. Il collegamento con le preoccupazioni di Kissinger, che in politica estera non era una "colomba", non è quindi un'identità tra Starlink e l'intelligenza artificiale militare, ma una questione più ampia: chi detiene il potere effettivo quando strumenti tecnologici indispensabili alla sicurezza collettiva dipendono da decisioni sottratte ai tradizionali processi democratici? Non è una domanda rassicurante. Perché il progresso tecnologico può aumentare enormemente la nostra capacità di agire, senza necessariamente accrescere nella stessa misura la capacità di governare le conseguenze delle nostre azioni.

L'algoritmo ha un genere?

L'intelligenza artificiale promette efficienza, innovazione e nuove opportunità. Ma rischia anche di riprodurre discriminazioni antiche con strumenti nuovi, proprio mentre le donne faticano ancora ad accedere ai luoghi in cui si progetta il futuro digitale. Il tema che, forse per deformazione professionale, mi ha maggiormente inquietata riguarda il rapporto tra intelligenza artificiale, lavoro e parità di genere. Siamo abituati a considerare la tecnologia come qualcosa di neutrale. Una macchina non dovrebbe avere preferenze, simpatie o pregiudizi. Peccato che le macchine vengano progettate dagli esseri umani e addestrate utilizzando dati prodotti dalla nostra società.

E la nostra società, quanto a pregiudizi, non è mai stata particolarmente avara. Le donne rappresentano una minoranza nelle professioni dell'intelligenza artificiale e sono pressoché assenti nei ruoli decisionali che ne orientano lo sviluppo. Dopo aver combattuto per entrare nei luoghi nei quali si prendono le decisioni, potremmo quindi scoprire che molte decisioni vengono ormai elaborate attraverso sistemi alla cui costruzione abbiamo partecipato troppo poco. Secondo uno studio dell'Organizzazione Internazionale del Lavoro, il 29% delle occupazioni a prevalenza femminile risulta esposto all'intelligenza artificiale generativa, contro il 16% di quelle a prevalenza maschile.

Esposizione non significa necessariamente perdita del lavoro, ma il divario evidenzia una vulnerabilità che non possiamo ignorare. E il problema non riguarda soltanto l'occupazione. Gli algoritmi intervengono nella selezione del personale, nella valutazione delle competenze, nelle opportunità di carriera, nell'accesso al credito. Un sistema addestrato su dati che incorporano discriminazioni storiche può finire per riprodurle, conferendo loro perfino un'apparenza di oggettività. Un pregiudizio non diventa più giusto soltanto perché viene trasformato in un algoritmo.

Per chi, come me, si occupa quotidianamente di lavoro, questo è un terreno sul quale non possiamo permetterci distrazioni. Abbiamo impiegato decenni per costruire norme contro le discriminazioni, strumenti per favorire le pari opportunità e procedure per garantire correttezza nelle decisioni datoriali. Sarebbe piuttosto paradossale ritrovarci domani a dover spiegare a un algoritmo ciò che abbiamo impiegato tanto tempo a far comprendere agli esseri umani.

Quale soluzione? Certamente favorire l'accesso femminile alle discipline STEM, investire nella formazione e superare il divario digitale, che può tradursi anche in dipendenza economica e sociale. Ma non basta. Occorrono regole e controlli effettivi L'Europa, attraverso l'AI Act, ha iniziato a disciplinare i rischi dell'intelligenza artificiale, comprese le possibili discriminazioni nei rapporti di lavoro e nell'accesso al credito. Tuttavia, una normativa non basta se non viene accompagnata da educazione, trasparenza, responsabilità e partecipazione, equamente condivisa nel genere, alla sua progettazione e governance degli algoritmi.

Non credo che la soluzione sia una rivoluzione delle donne contro gli uomini. Credo piuttosto che serva una rivoluzione culturale capace di coinvolgere entrambi. Perché il merito non dovrebbe avere genere. E neppure il futuro. Sarebbe davvero una beffa della storia se, dopo aver impiegato tanto tempo per conquistare il nostro posto al tavolo delle decisioni, ci accorgessimo che nel frattempo il tavolo è stato spostato altrove. E che, ancora una volta, nessuno si è preoccupato di invitarci.

La prima parte in https://www.laportadivetro.com/post/geopolitica-dell-incertezza-i-leadership-sempre-più-muscolari