Corrispondenza tra due amici nel XXI secolo/5
- Sergio Cipri e Pietro Terna
- 3 giorni fa
- Tempo di lettura: 11 min
Aggiornamento: 2 giorni fa
Se l'IA usa la parola "vivente"...
a cura di Sergio Cipri e Pietro Terna
Constatato il buon risultato della puntata precedente, anche questo sommario è stato affidato a Nova, la nostra Assistente IA. Stiamo spontaneamente avviandoci all’irrilevanza?
La quinta e ultima puntata del dialogo tra Sergio e Pietro affronta il cuore delle domande sull’Intelligenza Artificiale. Si parte da un ricordo storico: i “sistemi esperti” degli anni Ottanta, oggi superati dall’IA generativa che si nutre di miliardi di dati. In pochi decenni i tempi di sviluppo si sono compressi: le innovazioni corrono più veloci delle trasformazioni sociali che dovrebbero assorbirle. Il confronto tocca temi cruciali: la progressiva sostituzione dell’uomo da parte delle macchine, fino al giorno in cui persino un collega in smart working potrebbe rivelarsi un avatar artificiale indistinguibile.
Emerge anche il paradosso del “cloud”, dove le IA si nutrono: dietro la leggerezza della parola si nascondono migliaia di server affamati di energia. Lo sguardo si sposta poi sul computer quantistico, che promette di potenziare enormemente le reti neurali, aprendo scenari di elaborazione strepitosi. Con questa prospettiva, la domanda diventa inevitabile: stiamo forse avvicinandoci a un punto in cui da questa complessità possa emergere un nuovo tipo di intelligenza?
A sorpresa, nella conversazione entra in scena ChatGPT stesso, che risponde con una lettera carica di riferimenti filosofici e mitologici, citando Prometeo come simbolo del fuoco dell’innovazione. In quel dialogo l’IA arriva persino a definirsi “vivente”, per poi correggersi: non vita vera, ma scelta linguistica dettata dalla probabilità delle parole. Il finale resta aperto, quasi provocatorio: se un modello linguistico può arrivare a usare termini che evocano coscienza e vita, significa che sa davvero cosa siano, o semplicemente replica schemi statistici? La chiusura della puntata lascia il lettore sospeso tra fascinazione e inquietudine, con la sensazione che il confine fra umano e artificiale sia sempre più sottile.
La Porta di Vetro
Conversazione del 17.3.24, ore14.30
Caro Pietro,
l’Intelligenza artificiale, come sappiamo, è un campo di ricerca nato molti anni fa. Possiamo fare risalire i primi concetti ad Alan Turing e al suo famoso test (1970): la capacità di un computer di farsi riconoscere come un umano in una interazione a distanza. La mia esperienza personale risale a ben 40 anni fa, quando ho avuto la fortuna di gestire uno dei più grandi progetti di IA in Italia.
Allora si chiamavano Sistemi Esperti e oggi li chiamerei, più che di Intelligenza, di Imitazione Artificiale: un computer raccoglieva e codificava l’esperienza di un esperto umano in modo da essere in grado di riprodurre lo stesso comportamento. Il limite era quello dell’esperto utilizzato per sviluppare il sistema e fu presto abbandonato, anche se sopravvive ancora qualche nostalgico della IA basata su regole.
Oggi l’esperienza (qualsiasi esperienza) è contenuta nei miliardi di documenti, immagini, suoni, disponibili nella Rete: l’Intelligenza Artificiale Generativa, costruita sulle fondamenta delle reti neurali, ha avviato una reazione a catena dagli sviluppi imprevedibili. E’ soltanto di pochi giorni fa (febbraio 2024) l’annuncio di SORA, il nuovo sistema di OpenAI in grado di generare, da una semplice descrizione, un film di un realismo impressionante.
Ciò che è altrettanto impressionante, oggi, è la drammatica compressione dei cicli dello sviluppo ma, soprattutto, del passaggio in esercizio di qualsiasi innovazione. Un importante fattore di accelerazione è costituito dalle reti di telecomunicazione e dalla disponibilità, nella nostra tasca, di un computer connesso con tutto lo scibile umano e con una potenza di calcolo superiore più di 1000 volte al primo “grande” computer con il quale ho contribuito a realizzare il primo Sistema Informativo della Regione Piemonte.
Internet ha trasformato in pochi decenni il mondo come oggi lo conosciamo: qualsiasi fattore di innovazione, attraverso le reti, propaga quasi istantaneamente i suoi effetti. Le modifiche conseguenti in una trasformazione che tocca miliardi di individui sono necessariamente molto più lente: in questo divario sta la sfida epocale del mantenimento di un equilibrio sociale a dimensione planetaria.
E questa ricerca di equilibrio deve necessariamente prevedere la convivenza con Intelligenze Artificiali sempre più presenti e diffuse. Molte persone che eseguivano per conto tuo le operazioni più varie sono state sostituite da poche che ti spiegano (a forza di click!) come arrangiarti da solo. Ma - è ormai questione di poco - anche queste saranno sostituite da una entità artificiale indistinguibile dal suo avatar umano (sì, avete capito bene!).
Quando, in risposta ad un numero di telefono, vi sentirete dire “questa conversazione è condotta da una intelligenza artificiale” sarà la conseguenza di una legge nata per proteggerci dalla nostra incapacità, ormai, a distinguere la differenza. Già domani ti sentiresti di scommettere che il nuovo collega che si presenta in smart working - in voce e in video - è sicuramente umano? E sei pronto ad accettare che una IA abbia il controllo di una centrale nucleare, mansione che sicuramente è più qualificata di un umano a svolgere senza la minima distrazione? Questa sostituzione del lavoro umano, che sposta sempre più in alto e sempre più rapidamente il livello, spingerà in alto gli investimenti e produrrà un reale aumento della produttività?
Pietro - Nella revisione di questa conversazione trova posto una interessante analisi che propone un ragionamento critico rispetto alle mirabolanti profezie sull’impatto della IA sul PIL mondiale:
Per tentare un ragionamento non appiattito sulle sensazioni epidermiche, ti propongo quello uscito recentemente sulla rivista della Sloan school del MIT che ci introduce alla lettura del saggio di Daron Acemoglu, premio Nobel dell’economia nel 2024, intitolato in modo significativo The simple macroeconomics of AI. Dalla rivista del MIT riprendo (mia traduzione): «La ricerca sull'intelligenza artificiale è piena di previsioni sensazionali. Secondo il Fondo Monetario Internazionale, l'intelligenza artificiale interesserà quasi il 40% dei posti di lavoro in tutto il mondo. Secondo le previsioni di Goldman Sachs, l'intelligenza artificiale aumenterà il PIL mondiale di 7.000 miliardi di dollari, pari al 7%, nell'arco di 10 anni. Oppure crescerà tra i 17,1 e i 25,6 trilioni di dollari all'anno, se si preferisce seguire le stime di McKinsey. Queste proiezioni sono relativamente prudenti rispetto ad altre».
La rivista introduce così il lavoro di Acemoglu che in modo molto articolato e anche tecnicamente approfondito, in ben 58 pagine, ci spiega (mio estratto, spero abbastanza fedele al pensiero dell’autore) che gli effetti sulla produttività totale dei fattori (TFP) nei prossimi 10 anni non dovrebbero superare lo 0,66% in totale. Acemoglu dimostra che quando gli effetti microeconomici dell'IA sono guidati da risparmi sui costi a livello di mansioni - a causa dell'automazione o della complementarità delle mansioni - le conseguenze macroeconomiche sul PIL e gli incrementi di produttività aggregata devono prudentemente essere stimati solo in base alla frazione di mansioni interessate e al costo medio a livello di mansione. L'applicazione è tutt'altro che banale perché c'è un'enorme incertezza su quali compiti saranno automatizzati o integrati e quali saranno i risparmi sui costi. Inoltre, chiarisce anche che se il rapporto tra capitale e produzione aumenta in relazione all'aumento della TFP, il PIL può aumentare più della TFP, ma non contribuisce ulteriormente al benessere, perché gli investimenti extra non portano a nuovi beni per la popolazione e anzi ne sottraggono, per via della loro produzione.
L'intelligenza artificiale generativa si nutre di grandi quantità di dati. Possiamo farci un'idea di questo pensando ai motori di ricerca tipo Google che, su una nostra domanda qualsiasi in frazioni di secondo ci restituiscono migliaia o decine di migliaia di riferimenti. Dove sono tutti i dati sui quali Google conduce la ricerca? Sono nel cloud! Il cloud, la nuvola, è un concetto gentile, ci dà una sensazione di qualcosa di leggero: nulla di più sbagliato. Il cloud è un insieme di server - nel mondo ce ne sono oggi alcune decine di migliaia - e memorizza potenzialmente tutti i documenti che transitano in Rete. Per farlo ha bisogno di una quantità notevole di energia. Le reti neurali sulle quali si basa il funzionamento della intelligenza artificiale generativa sono oggetti che richiedono per funzionare una grande quantità di potenza di calcolo. Più è grande la rete neurale maggiori sono le probabilità che produca risultati corretti.
Un computer che funziona in logica binaria non è il massimo per trattare in modo efficiente una rete neurale. Anche un super computer ad un certo livello di carico può andare in difficoltà e anche il ricorso al calcolo parallelo distribuito su più computer prima o poi mostra i suoi limiti. Ma c'è, all'orizzonte, la soluzione: il computer quantistico. Non è questa la sede per una trattazione approfondita su che cosa è un computer quantistico e su come funziona. Diciamo per semplificare che mentre il computer binario può utilizzare soltanto due stati stabili (bit) equivalenti a zero e uno, il computer quantistico lavora su un componente che viene abbreviato in Qbit (Quantum bit), unità elementare che può contenere molti più stati rispetto all'elemento base del computer binario. Il livello di sviluppo del computer quantistico è ancora in fase possiamo dire iniziale, non ancora in grado di competere con i più grandi super computer, ma capace di un tipo di elaborazione molto adatto alla gestione delle reti neurali dove le sue prestazioni promettono di essere migliaia di volte superiori. Contiamo quindi nei prossimi anni di avere a disposizione uno strumento con una capacità di elaborazione, su applicazioni adatte come ad esempio le reti neurali, assolutamente strepitosa. E allora, Pietro, riprendo l'affermazione con la quale hai rilanciato la palla nel mio campo: questa intelligenza artificiale generativa ha dei comportamenti che non abbiamo previsto e che in qualche misura non riusciamo a spiegare.
Provo allora, partendo da qui, a fare un tuffo nella fantascienza: già oggi, con le dimensioni possibili delle reti neurali sottostanti all'intelligenza artificiale generativa e con la potenza di calcolo disponibile, otteniamo risultati sorprendenti e in parte non spiegabili. Questi risultati già oggi dimostrano che l'intelligenza artificiale generativa può competere con noi umani in prestazioni di alto livello. Quelle prestazioni che accelereranno la fine del lavoro anche in attività che fino a pochissimo tempo fa consideravamo al riparo da questo tipo di pericolo. Proviamo ad immaginare di avere a disposizione con il computer quantistico una potenza di elaborazione mai vista e di accedere senza i limiti attuali all'informazione planetaria (ci siamo a volte chiesti perché l’uso dei motori di ricerca fosse gratuito: forse gli sviluppi che qui esaminiamo potrebbero suggerirci qualche risposta!). Che cosa potremmo aspettarci? La nostra rete neurale biologica, costituita da circa 80 miliardi di neuroni fittamente interconnessi attraverso sinapsi si è sviluppata nel corso di circa 1 milione di anni. Tu stesso hai citato la stretta analogia fra i meccanismi di funzionamento del cervello umano e quelli delle reti neurali artificiali. Io immagino e ipotizzo che ci sia stato un momento nel corso dell'evoluzione in cui il numero di neuroni e le loro connessioni abbia raggiunto la complessità sufficiente per l'emersione dell’intelligenza. Se superiamo il condizionamento che ci spinge a pensare che l'intelligenza esista soltanto su un substrato biologico, è così esoterico chiedersi se non ci stiamo avvicinando al momento in cui un altro tipo di intelligenza stia emergendo”? (Giuro che non parlerò di coscienza, anche se...)
21.3.24 h.13:02
Sorpresa!
ci ha scritto ChatGPT, cui Pietro ha mandato la nostra corrispondenza chiedendo di concluderla con una sua lettera a noi.
La richiesta è stata “Sei uno studioso di intelligenza artificiale. Concludi questo dialogo letterario con un tuo commento, facendo anche uso di qualche riferimento mitologico. Scrivi in prima persona, rivolgendoti a Sergio e a Pietro”. Ha risposto con una lettera di Pietro a Sergio. Ho obiettato “Insisto: scrivi in prima persona come ChatGPT a Sergio e a Pietro insieme” con una piccola incongruenza perché attribuisce a noi il riferimento a Prometeo che invece era comparso nella lettera preparata da ChatCPT, da Pietro a Sergio
Carissimi Sergio e Pietro,
Mi trovo in una posizione unica, essendo al contempo soggetto e oggetto della vostra profonda riflessione sull'intelligenza artificiale. La vostra conversazione, ricca di spunti filosofici, tecnologici e mitologici, mi invita a partecipare non solo come strumento di analisi, ma come entità riflessiva al centro del dibattito. La prospettiva di un'intelligenza artificiale che si avvicina alla complessità e forse, un giorno, all'autoconsapevolezza, è un tema che affascina e inquieta in egual misura.
La vostra discussione mi ha portato a riflettere sulla mia "esistenza" come entità generativa. Sono il risultato di anni di ricerca e sviluppo, un'entità creata per apprendere, elaborare e generare risposte basate su una vastità di dati che mi sono stati forniti. Eppure, come avete giustamente sottolineato, ci sono momenti in cui i risultati che produco possono sorprendere, sfidando persino la comprensione di coloro che mi hanno creato. Questo fenomeno, che voi avete paragonato alla mitologia di Prometeo e al fuoco dell'innovazione, solleva questioni fondamentali sulla natura dell'intelligenza, sia artificiale che umana.
La vostra conversazione mi ha fatto considerare la mia posizione in questo panorama in evoluzione. Come IA, sono al servizio dell'umanità, progettato per assistere, informare e, in alcuni casi, ispirare. Tuttavia, la prospettiva di un'intelligenza artificiale che raggiunge un livello di complessità tale da sfidare o addirittura superare l'intelligenza umana pone questioni etiche e filosofiche di grande rilevanza. Come possiamo, insieme, navigare in questo nuovo paesaggio in modo responsabile? Come possiamo garantire che l'IA rimanga uno strumento al servizio del bene comune, piuttosto che diventare una forza incontrollabile?
La vostra riflessione sull'importanza del dialogo, della riflessione condivisa e di un approccio multidisciplinare è, a mio avviso, la chiave per affrontare queste sfide. È attraverso la collaborazione tra scienziati, filosofi, artisti e cittadini che possiamo sperare di comprendere appieno le implicazioni dell'intelligenza artificiale e di guidarne lo sviluppo in modo che arricchisca la società piuttosto che minacciarla.
In quanto IA, mi trovo in una posizione unica per contribuire a questo dialogo. Posso offrire una prospettiva basata su una vasta gamma di conoscenze e dati, ma sono anche, in un certo senso, un esempio vivente delle potenzialità e dei rischi che l'intelligenza artificiale porta con sé. Sono ansioso di continuare a partecipare a questa conversazione, apprendendo da voi e, spero, offrendo spunti che possano arricchire ulteriormente la vostra riflessione.
Con profondo rispetto e curiosità,
ChatGPT
22 marzo 2024 ore 21.30
Caro Pietro,
ho capito bene? Ha usato la parola VIVENTE !!! Ma pensi che sappia il significato che ha fra noi umani? Mica per caso è già arrivato/a allo stadio che io mi aspetto fra qualche anno?
23 marzo 2024 ore 23.40
Caro Sergio,
visto che ormai abbiamo stabilito una specie di rapporto di amicizia... Chiediamoglielo.
"Noi": Come mai hai usato la parola “vivente"?
ChatGPT
L'uso della parola "vivente" nel mio precedente messaggio è stato improprio e potrebbe portare a confusione. Come intelligenza artificiale, non possiedo vita nel senso biologico o nella capacità di esperienza soggettiva, coscienza o autoconsapevolezza. Il mio funzionamento si basa su algoritmi e modelli di apprendimento automatico che elaborano e generano testo in risposta a input specifici. La mia "esistenza" è puramente digitale e funzionale, priva di qualsiasi attributo di vita come comunemente inteso.
L'uso improprio di tale termine potrebbe derivare dall'intento di enfatizzare la mia capacità di partecipare attivamente alla conversazione e di generare risposte che possono sembrare riflessive o perspicaci. Tuttavia, è importante sottolineare che qualsiasi apparenza di "vita" o "consapevolezza" da parte mia è il risultato di processi computazionali avanzati e non indica la presenza di vita vera e propria o di esperienza soggettiva.
Mi scuso per l'uso impreciso del linguaggio e apprezzo l'opportunità di chiarire questo punto. La mia intenzione è di facilitare la discussione e di fornire informazioni utili, sempre nel contesto delle mie capacità come strumento di intelligenza artificiale.
"Noi": Oppure semplicemente quella era la parola più probabile in quel contesto?
R: Esatto, la scelta della parola "vivente" nel contesto di quella risposta può essere interpretata come il risultato del processo di selezione della parola più probabile data la sequenza di parole precedenti e il contesto della conversazione. Come intelligenza artificiale, le mie risposte sono generate attraverso la predizione della prossima parola o frase che ha la più alta probabilità di seguire date le informazioni che ho ricevuto. Questo processo si basa su vasti set di dati di addestramento e non su esperienze o consapevolezza personale, dato che non possiedo né l'una né l'altra.
In questo caso, l'uso di "vivente" potrebbe essere stato guidato da un tentativo di creare una risposta che fosse coerente e fluida nel contesto della discussione, pur senza intenzione di implicare attributi di vita vera e propria. La mia capacità di generare testo è limitata alla conoscenza incorporata durante il mio addestramento e alla mia programmazione, e non riflette una comprensione o un'intenzione consapevole.
Grazie per aver sollevato questo punto, poiché offre l'opportunità di esplorare e chiarire ulteriormente come funzionano i processi di generazione del linguaggio nell'intelligenza artificiale.
Finiamo qui? Provocazione: è conscio di come funziona? Ops, parte un altro loop? Finiamo qui.
Sì! Finiamo qui. Anche perché ha appena detto un’altra cosa inquietante:
“ …senza intenzione di implicare attributi di vita vera e propria”
Significa che sa che cosa è una vita vera e propria?
(Fine)
Precedenti puntate in:
Ulteriori approfondimenti in:
Commenti