Punture di spillo. "IA: parliamone, la svolta è epocale!"

a cura di Pietro Terna

I lettori cui si rivolgeva Alessandro Manzoni erano venticinque,[1] io me ne concedo dieci perché siamo online ed è molto più facile raggiungerli. Ebbene, temo che quei dieci lettori, osservando che di nuovo lo spillo si occupa di intelligenza artificiale, sbadiglino un uffa e tirino via. Ci provo lo stesso, perché quel che sta capitando con l’IA segna un’epoca, divide un prima e un dopo.

Nello stesso giorno due fatti mi hanno raggiunto direttamente. Il primo: gli amici e conoscenti un po’ speciali di Santa Fe[2] hanno discusso in modo fulminante a proposito di un avvenimento inquietante che ha coinvolto l’intelligenza artificiale. Il secondo: ho usato l’IA per risolvere un difficile problema informatico. Due facce della medaglia, entrambe da considerare.

Truffe deepfake e soluzione dei problemi

Ecco la discussione. [3] La domanda di A:

Negli Stati Uniti, questa settimana, Jennifer DeStefano,[4] una madre dell'Arizona, ha testimoniato in un'udienza al Senato la sua straziante esperienza con una truffa deepfake che le ha fatto credere che sua figlia fosse stata rapita. DeStefano ha raccontato che i finti rapitori hanno chiesto un riscatto di 50.000 dollari prima che lei riuscisse a mettersi in contatto con la figlia, che in realtà era sana e salva.

Jennifer DeStefano (nella foto): «Era la voce di mia figlia. Erano le sue grida. I suoi singhiozzi. Era il modo in cui parlava. Non riuscirò mai a togliermi dalla testa quella voce e quelle disperate richieste di aiuto. È il peggior incubo di ogni genitore sentire il proprio figlio implorare con paura e dolore, sapendo che gli stanno facendo del male e che tu sei impotente. Più a lungo questa forma di terrore rimane impunita, più diventerà grave. Non c'è limite alla profondità del male che l'IA può consentire».

È già troppo tardi per progettare qualsiasi tipo di regolamentazione?

Fulminante la risposta di B: «L'estorsione è illegale, no»? Il reato è quello, non può essere reato l’uso di una voce per produrre un audio, altrimenti è anche un reato affilare i coltelli perché possono essere utilizzati per un omicidio. Auspico il contradditorio con i lettori, invece dell’uffa. Annoto solo che una estorsione così non sarà più ripetuta in Arizona, per la notorietà del fatto; invece le truffe agli anziani – con la richiesta di controllare le bollette del gas o della luce perché «potreste spendere di meno» – con buona pace dei Carabinieri che affiggono i manifesti di avviso, non si fermano mai.

Stesso giorno, secondo avvenimento. Sono bravino a scrivere codice informatico per la costruzione dei modelli economici di cui mi occupo, ma dopo due giorni di inutili tentativi per cercare di scovare un errore, ho chiesto a ChatGPT[5] – un’intelligenza artificiale del tipo cosiddetto generativo – come avrebbe dovuto essere trattato un certo problema, senza comunicare come avevo fatto io. La risposta,[6] già nelle prime righe, mi ha indirizzato sulla strada corretta e poi mi ha anche istruito su come percorrerla.

Evitiamo i catastrofismi

Due questioni completamente diverse, certo. Ma… come facciamo a trattare il controllo che molti desiderano introdurre sull’intelligenza artificiale, con due pesi e due misure? Soprattutto, mentre le mamme in Arizona non cascheranno più nella trappola delle voci falsificate, quanti programmatori così così perderanno il lavoro perché una macchina fa meglio di loro? I bravissimi non sono toccati dal problema, ma quanti sono? Quando Musk ha acquistato Twitter, ha licenziato metà dei programmatori. Forse, con l’IA, anche il 99%. Non lo auspico certo, ma metto la questione al centro delle riflessioni necessarie.

Non serve il catastrofismo, gli archivi ne sono pieni, come dimostra il magnifico Pessimists archive.[7] Servono un atteggiamento e un’azione costruttivi, senza ripetere l’eterno dibattito se l’innovazione crei più posti di lavoro rispetto a quanti ne distrugga oppure sia vero l’opposto. Questo cambiamento epocale portato dall’IA modifica la struttura della società molto più profondamente di quanto sia accaduto con molte delle innovazioni precedenti. Il primato della politica è da richiamare per le decisioni strutturali che si succederanno in modo parallelo agli effetti diretti indotti dall’IA: nell’istruzione, nell’organizzazione dei modi e tempi di lavoro, nel potere degli oligopolisti (ora soprattutto nel campo del digitale), nella proprietà intellettuale collegata all’innovazione, che è il nuovo centro del potere. A decidere non devono essere Google, Meta, Amazon… Ho appena iniziato la lettura di un libro recente, del 2020: è già vecchissimo negli esempi, ma modernissimo nei problemi che propone: Automazione – Disuguaglianze, occupazione, povertà e la fine del lavoro come lo conosciamo, Aaron Benanov, LUISS University Press. Tra un paio di spilli ne parliamo.

Per questo articolo ero in dubbio tra il tema che ho in effetti trattato oppure discutere dell’importante articolo dell’Economist[8] «Finding the money to fix the world requires a rethink on tax, says Jayati Ghosh», poi il Maestro di musica che interviene nella costruzione degli spilli ha recitato le parole di Incontro[9] di Francesco Guccini (nella foto) e la scelta era fatta: cerchiamo il senso anche in questo quasi improvviso cambiamento, serviamoci dei sogni senza tempo:

E pensavo dondolato dal vagone

«Cara amica il tempo prende, il tempo dà

Noi corriamo sempre in una direzione

Ma qual sia e che senso abbia chi lo sa

Restano i sogni senza tempo

Le impressioni di un momento

Le luci nel buio di case intraviste da un treno

Siamo qualcosa che non resta

Frasi vuote nella testa e il cuore di simboli pieno»

Note [1] Nel capitolo I dei Promessi sposi, dopo che i bravi hanno spiegato a don Abbondio che il matrimonio tra Renzo e Lucia non s’aveva da fare, si legge: «Pensino ora i miei venticinque lettori che impressione dovesse fare sull’animo del poveretto, quello che s’è raccontato». [2] Qui l’archivio delle loro infinite discussioni: https://redfish.com/pipermail/friam_redfish.com/ Derivano da riunioni che si tengono al venerdì mattino (FRIAM) nella cittadina che ospita il Santa Fe Institute https://santafe.edu, con ricadute sull’intera comunità. [3] A: Here in the U.S., Jennifer DeStefano, an Arizona mother, testified at a Senate hearing this week about her harrowing experience with a deepfake scam that tricked her into thinking her daughter had been kidnapped. DeStefano says the fake kidnappers demanded a $50,000 ransom before she got in touch with her daughter, who was in fact safe and sound. Jennifer DeStefano: «It was my daughter’s voice. It was her cries. It was her sobs. It was the way she spoke. I will never be able to shake that voice and the desperate cries for help out of my mind. It’s every parent’s worst nightmare to hear your child pleading with fear and pain, knowing that they’re being harmed and that you’re helpless. The longer this form of terror remains unpunishable, the farther and more egregious it will become. There is no limit to the depth of evil AI can enable.» Is it already too late to design any kind of regulations? B: Extortion is illegal, no? [4] Qui il filmato della testimonianza: https://www.azfamily.com/2023/06/14/scottsdale-mom-testifies-about-terrorizing-ai-scam/ [5] https://chat.openai.com [6] https://chat.openai.com/share/cb1aba35-0706-476d-a905-b52f72b4b436 [7] https://pessimistsarchive.org [8] https://www.economist.com/by-invitation/2023/06/13/finding-the-money-to-fix-the-world-requires-a-rethink-on-tax-says-jayati-ghosh - Per trovare il denaro necessario a riparare il mondo occorre ripensare le tasse, dice Jayati Ghosh. [9] https://youtu.be/0jhQH03GS8E con testo a https://www.fabiosroom.eu/it/canzoni/incontro/