Corrispondenza tra due amici nel XXI secolo/2

a cura di Sergio Cipri e Pietro Terna

Cari lettori, la seconda puntata dell’epistolario analizza i limiti e l’eventuale autonomia delle  intelligenze artificiali cosiddette generative, come ChatGPT, Perplexity, DeepSeek, Claude, Kimi e tante altre.[1] Nella settimana che precede la pubblicazione di questa puntata è stata lanciata con grande clamore la versione 5, attesissima, di ChatGPT, denominata gpt-5.

Se vi collegate a https://chatgpt.com e, invece di agire in modo anonimo, vi iscrivete se non l’avete ancora fatto e vi registrate, eccolo lì, gratuitamente. A https://terna.to.it/gpt-5/esempio.html trovate un breve dialogo di prova.

Non c’è generale consenso sul fatto che la nuova versione sia un grande miglioramento, provate voi stessi. Intanto è gratuita, il che apre la porta a molti interrogativi.

La Porta di Vetro

Conversazione del 19.2.24 h. 22:36

Caro Sergio,

ho disobbedito, ho richiamato il materiale salvato all’interno del Chiacchierone e gli ho chiesto: Come hai operato per preparare la lettera a Sergio e a Pietro?

Per preparare la lettera a Sergio e a Pietro, ho seguito un processo che mira a catturare l'essenza del loro dialogo, riflettere sulle tematiche sollevate e offrire una risposta che sia informativa, riflessiva e stimolante. Ecco i passaggi chiave di questo processo:

1. Lettura Attenta: Ho iniziato leggendo con attenzione la corrispondenza tra Sergio e Pietro per comprendere i punti principali della loro discussione, le loro preoccupazioni, interessi e il tono della conversazione.

2. Identificazione dei Temi Centrali: Ho identificato i temi centrali del loro scambio, come l'importanza della conoscenza nell'approccio all'IA, le preoccupazioni etiche e sociali legate all'evoluzione dell'IA, e l'entusiasmo per le potenzialità che questa tecnologia può offrire.

3. Riflessione: Ho riflettuto su come questi temi si collegano a questioni più ampie di interesse pubblico e su come potessero essere approfonditi in modo costruttivo. Ho anche considerato l'importanza del dialogo e della condivisione di conoscenze in un campo in rapida evoluzione come quello dell’IA.

4. Strutturazione della Risposta: Ho deciso di strutturare la lettera in modo che riconoscesse il valore della conversazione tra Sergio e Pietro, esprimesse apprezzamento per il loro approccio riflessivo e offrisse ulteriori spunti di riflessione. Ho cercato di mantenere un tono che fosse allo stesso tempo rispettoso, informativo e incoraggiante.

5. Scrittura: Durante la scrittura, ho cercato di adottare uno stile che fosse in linea con quello di uno scrittore abituato a preparare brevi articoli per giornali e riviste. Questo ha comportato l'uso di un linguaggio chiaro e accessibile, la capacità di sintesi e l'inserimento di esempi o metafore per illustrare i punti chiave.

6. Revisione e Rifinitura: Infine, ho riletto la lettera per assicurarmi che fosse coerente, che fluisse bene e che non ci fossero errori. Ho anche verificato che la lettera rispecchiasse un equilibrio tra empatia, critica costruttiva e incoraggiamento al dialogo continuo.

Questo processo mira a creare una risposta che sia non solo reattiva ma anche propositiva, offrendo spunti che possano arricchire ulteriormente la conversazione tra Sergio e Pietro e, potenzialmente, con un pubblico più ampio.

[P.S. Al lettore: anche in questo caso la risposta dell’IA di aprile 2024 è stata rifatta a marzo 2025, così si notano i progressi. Le nuove versioni delle risposte di ChatGPT e di DeepSeek sono a https://terna.to.it/nuoverisposte/].

Uhm, non mi è piaciuta per nulla la risposta e ho controbattuto in modo assai duro: Ma in realtà quello che segui è un processo di scelta della prossima parola più probabile.

Il Chiacchierone non polemizza:

Hai ragione nell'osservare che, a livello tecnico, il funzionamento dei modelli di intelligenza artificiale come quello che sto utilizzando per rispondere alle tue domande si basa su un processo di predizione della prossima parola più probabile, data una sequenza di parole precedenti. Questo processo si avvale di complessi algoritmi di apprendimento automatico e di enormi dataset di testo per "imparare" come le parole tendono a seguire l'una all'altra in contesti linguistici naturali.

Quando ho descritto il processo di preparazione della lettera, ho adottato una narrazione che simula un approccio umano alla scrittura, riflessione e analisi. Tuttavia, è importante sottolineare che, in realtà, la generazione del testo da parte di un modello di IA come il mio non avviene attraverso un processo conscio o riflessivo come quello umano, ma attraverso calcoli statistici che determinano la probabilità delle parole in base al contesto fornito.

Il modello, quindi, non "legge" nel senso umano del termine, né "riflette" attivamente sui temi o segue un processo creativo deliberato. Invece, utilizza le informazioni apprese durante il suo addestramento per generare risposte che siano statisticamente coerenti con i dati su cui è stato addestrato. La "scelta" della prossima parola più probabile è il risultato di questo processo, guidato da algoritmi che analizzano le sequenze di parole per produrre testo che appaia naturale e informativo.

La capacità di generare risposte che sembrano riflessive, informate e contestualmente appropriate è una testimonianza delle avanzate capacità dei modelli di intelligenza artificiale odierni. Tuttavia, è fondamentale riconoscere i limiti di questi sistemi e la distinzione tra l'apparente "comprensione" del testo da parte di un modello di IA e la vera comprensione umana, che implica consapevolezza, intenzionalità e la capacità di riflettere criticamente sulle informazioni.

Molto bene, ma resta la difficoltà a capire la costruzione di entrambe le risposte.

Aspetto con grande curiosità la tua risposta che, a dirla tutta, è prodotta da un sistema ben più complesso di quello usato dal Chiacchierone.

21.2.24 h. 18.00

Caro Pietro,

 

Più che le risposte di quella che chiami Chiacchierone (trattandosi di una IA mi verrebbe più istintivo immaginarla di genere femminile), mi ha colpito la tua reazione: “non mi è piaciuta per nulla la sua risposta e ho controbattuto in modo assai duro”. Hai utilizzato in modo (in?)consapevole categorie di pensiero di solito riservate alle interazioni umane. E rivelato una seppur parziale componente emozionale. L’interazione di questa IA evidenzia una certa capacità di suscitare reazioni simili a quelle di un interlocutore umano, compreso un tono vagamente adulatorio e in un passaggio decisamente paternalistico che ho percepito come “artificiale” (Ah! Ah!). Mi sono chiesto allora se questa abilità facesse parte di una base di conoscenza di provenienza e controllo umano oppure - possibilità eccitante ma inquietante - fosse il risultato di qualche forma di autoapprendimento sviluppato dalla numerosità di colloqui con gli umani. Che cosa ho fatto? Gliel’ho chiesto. Ecco domanda e risposta:

 

Ho una domanda diretta: hai capacità di autoapprendimento?

Sono un'intelligenza artificiale con capacità avanzate di elaborazione del linguaggio naturale e posso essere addestrato su una vasta gamma di compiti e domini linguistici. Tuttavia, non ho la capacità di autoapprendimento nel senso che non posso acquisire nuove conoscenze o abilità senza essere addestrato o aggiornato dal mio team di sviluppatori. Il mio funzionamento si basa su un vasto corpus di testo preesistente e su algoritmi di apprendimento automatico, ma il mio addestramento e l'aggiornamento delle mie capacità sono supervisionati da esseri umani.

La risposta del Chiacchierone - come lo chiami tu - contiene un’apparente contraddizione: nega la capacità di autoapprendimento, ma cita algoritmi di apprendimento automatico. Interpreto che l’IA non ha la capacità autonoma di ampliare la sua base di conoscenza, mentre è in grado di elaborare, su quella base, risposte con un livello di precisione più accurato. La risposta mi ha da un lato deluso ma da un altro rassicurato. L’evoluzione di una IA verso la coscienza di sé passa necessariamente, a mio avviso, attraverso una emancipazione dai suoi creatori umani che richiede capacità di autoapprendimento in grado di ampliare la sua base di conoscenza in modo autonomo. La fantascienza è ancora lontana! Ma se l’IA Generativa potesse accedere autonomamente all’intero corpus dei documenti in Rete, aggirando la limitazione imposta dai suoi “addestratori”, quali scenari potrebbero aprirsi? In ogni caso, per proseguire nella valutazione dell’impatto dell’IA nello sviluppo del nostro futuro, ci basta la impressionante abilità di questo, che è pur sempre un algoritmo, nel generare elaborati linguistici indistinguibili da quelli prodotti da professionisti umani. Recentemente attori e sceneggiatori di Hollywood hanno proclamato un duro sciopero contro la ipotesi delle case di produzione di utilizzare l’IA nella sostituzione di attori con loro cloni sintetizzati a computer e scrivere sceneggiature a costo praticamente zero con la qualità che possiamo verificare.

Scenario apocalittico?

A te!

Note

[1] La prima puntata in https://www.laportadivetro.com/post/corrispondenza-tra-due-amici-nel-xxi-secolo

(Continua/2)