PUNTURE DI SPILLO. Una mappa per l'IA: hic sunt leones
a cura di Pietro Terna
Le Big Pharma, come sta facendo AstraZeneca,[1] si espandono nell’IA per sviluppare la cura del cancro, molto bene.
DeepMind di Google, con l’IA ha creato[2] 700 nuovi materiali, molto bene.
OpenAI, dopo le recenti e contorte vicende dell’amministratore delegato (CEO) cacciato e richiamato, produrrà l’oggetto misterioso[3] Q* che sarà bravo in matematica, molto bene.
“Fuori onda”, come si dice ora: per nobilissimi motivi (soldi), Elon Musk (X, Tesla, SpaceX e tanto altro) e Jeff Besos (Amazon) superano[4] la loro acerrima contrapposizione, molto bene.
Molto bene ma… tutto questo crea aspettative, paure, contrasti, esagerazioni. Spetta alla politica trovare i mezzi e gli strumenti per assicurare a tutte le persone una visione indipendente e completa dell’innovazione più importante che conosciamo e conosceremo nei prossimi anni: l’intelligenza nelle macchine. Non si tratta di vietare, regolamentare, prescrivere, ma di creare solidissimi apparati pubblici che ci consentano, nel Nord come nel Sud del Mondo, a Est come a Ovest, di disporre di strumenti per capire che cosa sta cambiando nel mondo con l’informatica dell’intelligenza artificiale.
Pochi giorni fa, in un incontro pubblico, una partecipante si è dichiarata sorpresa di aver ascoltato una persona molto anziana parlare di intelligenza artificiale (detto per inciso, il soggetto in questione ero io): quale sorpresa? Tutti dobbiamo occuparci di ciò che ci circonda, ciascuno con le proprie competenze e chiedendo aiuto agli altri.
Altrimenti, il Mondo ci appare come una carta geografica antica, con grandi aree segnate con la scritta Hic Sunt Leones o Dracones, luoghi pericolosi e sconosciuti.
L'analisi di Yann LeCun
L’esempio di Q* è interessante: è solo un nome attribuito a ciò che il CEO di OpenAI, Sam Altam, ha riferito durante un incontro pubblico,[5] citando nuovi straordinari progressi: immediata l’esplosione della notizia! Yann LeCun,[6] grande studioso dell’IA e delle reti neurali artificiali, una settimana fa[7] su X (Twitter) smitizzava la questione. In breve: “Si prega di ignorare il diluvio di complete sciocchezze su Q*. Una delle sfide principali per migliorare l'affidabilità delle LLM è quella di sostituire la previsione autoregressiva dei token con la pianificazione. Quasi tutti i laboratori più importanti (FAIR, DeepMind, OpenAI ecc.) ci stanno lavorando e alcuni hanno già pubblicato idee e risultati”.
Quindi tanto rumore per nulla e anche una congiura aziendale per rimuovere Altman, ma per motivi molto diversi dalla pericolosità del nuovo prodotto. Molto probabilmente anche in questo caso hanno agito nobilissimi motivi di… soldi: nello spillo del 23 novembre[8] anticipavamo, grazie a fonti personali, quel che la rivista Wired ha scritto[9] due giorni fa: interessi personali nelle forniture. Un déjà vu anche dalle nostre parti… E non ci spingiamo oltre.
LLM, Large Language Machine
Spiego le tecnicalità su Q* o almeno ci provo: le LLM sono le nuove intelligenze artificiali; la sigla sta per Large Language Machine con cui si indicano macchine capaci di gestire grandissime quantità di informazioni memorizzate come parole o token o parti del linguaggio o simboli; ora fanno previsioni sulla prossima parola più probabile nella frase man mano che ci rispondono. Sono autoregressive perché considerano quanto già scritto in precedenza (dopo “qual è il verso del gatto?” è molto probabile ci sia “Miagola” oppure “Il gatto miagola”); evolveranno introducendo capacità di pianificazione per tenere conto delle conseguenze che la scelta di una parola ha nella costruzione della frase molti passi più avanti. Ad esempio, se chiedo alla macchina di spiegarmi che cosa è un “verso”, la costruzione della risposta deve essere ben pianificata a seconda che si vada nella direzione del verso di un animale o del verso di una poesia.
Ecco il cuore del problema: sforzarsi di capire di che cosa stiamo parlando, senza temere Leones e Dracones.
Sulle paure e sul mistero sembra far conto la neonata AI Alliance[10] che vede “tutti” contro Google e Microsoft in nome della purezza e dell’apertura (tutto “open”, almeno a parole). Sarà per il nome che ricorda Star Wars o anche la Santa Alleanza[11] per il ritorno al passato dopo Napoleone: l’operazione mi inquieta un po’. Alla guida di fatto sta Meta, con Mark Zuckerberg che è padrone di cosine come Facebook, WhatsApp, Instagram e anche di FAIR (Fundamental AI Research; al posto di Fundamental si può mettere anche Facebook) e che non molto tempo fa favoleggiava di metterci tutti nel suo metaverso.[12] E se si trattasse di ethics-washing ("ai safety") come il green-washing dei petrolieri a Cop28? Che mal pensante che sono!
Miles Davis, un grande in tutto
Ecco, per fortuna, il Maestro di musica degli spilli. Quelli che viviamo sono tempi urgenti. Bisogna correre. Quello che è vero oggi, probabilmente, è destinato ad essere superato domani. Ci sono stati tempi simili nella musica? Certo, specialmente nel jazz. E il bebop è stata la fase più urgentemente creativa. Poteva anche accadere che un ragazzino di neppure vent’anni arrivasse a New York per studiare tromba alla Juillard School e finisse a suonare con Charlie Parker.
E che quello stesso ragazzino scrivesse un pezzo proprio forte. E che lo stesso Parker gliene portasse via i diritti d’autore, registrandolo all’equivalente della SIAE a proprio nome. Un vero colpo basso, per di più messo in atto da una specie di mentore. Il brano è Donna Lee ed è rimasto uno dei temi più eseguiti. Lo ha inciso anche Jaco Pastorius[13] nel suo primo disco solista. Il ragazzino si chiamava Miles Davis. Visto quello che fece in seguito, si può dire che abbia superato il trauma. I tempi urgenti non giustificano comportamenti opportunistici. Non sempre i traumi si superano, men che meno quelli collettivi.
Note
[1] Dal Financial Times del 3.12, AstraZeneca ties up with AI biologics company to develop. Per il FT, inserendo il titolo in Google, si ottiene un link diretto all’articolo; il link non vale una seconda volta. [2] https://www.technologyreview.com/2023/11/29/1084061/deepmind-ai-tool-for-new-materials-discovery (MIT, a pagamento, ma con alcuni accessi gratuiti), [3] https://www.technologyreview.com/2023/11/27/1083894/the-download-openai-q-hype-x-financial-woes(MIT, a pagamento, ma con alcuni accessi gratuiti). [4] https://www.ilsole24ore.com/art/musk-lancera-orbita-satelliti-bezos-la-connessione-internet-AFQQ2CtB?refresh_ce=1 [5] Ad esempio in https://sfstandard.com/2023/11/17/openai-sam-altman-fired-apec-talk/ [6] https://it.wikipedia.org/wiki/Yann_LeCun [7] https://twitter.com/ylecun/status/1728126868342145481 Please ignore the deluge of complete nonsense about Q*. One of the main challenges to improve LLM reliability is to replace Auto-Regressive token prediction with planning. Pretty much every top lab (FAIR, DeepMind, OpenAI etc) is working on that and some have already published ideas and results. It is likely that Q* is OpenAI attempts at planning. They pretty much hired Noam Brown (of Libratus/poker and Cicero/Diplomacy fame) to work on that. [Note: I've been advocating for deep learning architecture capable of planning since 2016]. [8] https://www.laportadivetro.com/post/punture-di-spillo-open-ai-soap-opera-o-drama-l-ombrello-milionario-è-sempre-aperto [9] https://www.wired.it/article/openai-sam-altman-conflitto-interessi-rainai-chip/ [10] https://thealliance.ai Si vedano Il Sole 24 Ore del 6.12 a p.35 oppure il Wall Street Journal https://www.wsj.com/articles/meta-and-ibm-launch-ai-alliance-300c4862 e per ora pochi altri. [11] https://it.wikipedia.org/wiki/Santa_Alleanza [12] https://it.wikipedia.org/wiki/Metaverso [13] https://www.youtube.com/watch?v=-0NNA6w8Zk4
