L’apprendista stregone

L’apprendista stregone.

Quale sarà la grande novità del 2025 ? Interroghiamo gli astri al proposito.

Giusto ieri si è concluso il Ces, il Consumer Electronic Show, ovvero l’evento più importante dell’anno per capire la tecnologia, tenutosi a Las Vegas a partire dal 7 Gennaio, con 150 mila partecipanti.

Qui l’astro nascente da interrogare è sicuramente Jensen Huang, fondatore e Ceo di Nvidia. Per valore di mercato Nvidia è attualmente la seconda società al mondo, dietro Apple. Con una capitalizzazione superiore al debito pubblico italiano, tanto per intenderci. Il suo successo nel mercato dei semiconduttori è dovuto ai chip che sviluppa in tempi estremamente rapidi. Chip tra i migliori per alimentare la bulimia di risorse elaborative dei prodotti di intelligenza artificiale.

Huang è quindi un personaggio. Entrare a una sua conferenza è peggio che fare la fila al concerto musicale più atteso dell’anno. Code interminabili per i 12 mila fortunati che sono riusciti a entrare nel tempio dove l’oracolo ha parlato, la Michelob Ultra Arena.

Huang ha sentenziato che il 2025 sarà l’anno dell’Agentic AI, l’agente di Intelligenza artificiale. Ecco la sintesi del suo oracolare:

“ Multi-trillion-dollar opportunity !!“

per le aziende che svilupperanno questi agenti, tra cui ovviamente Nvidia. Così ha detto Huang per quanto riguarda i guadagni. Per quanto riguarda l’umano vivere ha riferito:

«Saremo circondati da intelligenze artificiali super intelligenti – spiega – che ci aiuteranno a scrivere, analizzare problemi, pianificare le catene di approvvigionamento, scrivere software e persino realizzare podcast. Avremo queste super intelligenze al nostro fianco in ogni momento»

Il lavoro si virtualizza

Gli agenti sono fatti di software intelligente. Permettono agli umani di delegare una serie infinita di compiti complessi, decidendo in autonomia come gestire tutte le variabili specifiche e gli imprevisti. Un consulente finanziario, un assistente medico, un avvocato junior, un collaboratore domestico sono tutti compiti che sarà possibile lasciar svolgere a un agente virtuale attraverso la rete, oppure, laddove ci sarà impatto nel mondo fisico, in integrazione con le componenti robotiche specifiche.

I vertiginosi progressi che negli ultimi due anni l’Intelligenza artificiale ha compiuto, stanno portando gli umani di fronte ad un’altra radicale trasformazione, al cui confronto, la recente rivoluzione antropologica di cui abbiamo parlato tante volte nei nostri articoli, sembrerà una sciocchezza.

Nel 2024 sono usciti molti libri che hanno affrontato l’argomento provando ad analizzare punti di forza e debolezza, e a immaginare quanto aspetta il genere umano. Tra tutti prendiamo oggi spunto dall’ultimo libro dello storico Yuval Noah Harari uscito nel settembre 2024. Il titolo “Nexus” richiama il concetto di connessione tra individui e gruppi, mediate attraverso reti di informazione.

Nexus

Tutta la prima metà del voluminoso libro di Harari è dedicata a spiegare come le società umane, grazie alle invenzioni tecnologiche a partire dall’agricoltura, sono diventate sempre più numerose e si sono così trovate a risolvere un problema che richiedeva il mantenimento di una certa quantità di organizzazione, e quindi di ordine, affinché queste comunità non si sfaldassero alle prime tensioni intra-umane.

La soluzione è stata quella di creare delle narrazioni di tipo eroico o mitologico o religioso o miste per far sì che tutti i membri di una società avessero una base comune di valori e significati in cui riconoscersi e di cui sentirsi parte attiva.

Queste narrazioni sono state proposte come verità assolute e immutabili già dalle prime grandi società antiche. Tanto immutabili che, all’epoca dei faraoni Egizi, con lo sviluppo della scrittura, venivano narrate incidendole sulla pietra dei Templi a loro dedicati, che ancora le serbano come fossero le biblioteche o gli archivi storici del tempo. Ma lo sviluppo demografico ha portato a generare regole di convivenza che sono diventate sempre più complesse, spingendo verso un rinnovamento continuo di queste narrazioni e rendendo quindi necessaria la produzione di importanti apparati burocratici con tutte le loro infrastrutture per gestirne la manutenzione.

Harari, nella seconda metà del testo, entra nello specifico di come la potenza dell’elaborazione informatica si inserisce nella gestione di queste narrazioni e scrive:

“le civiltà umane nascono da un connubio tra mitologia e burocrazia. La rete informatica è un nuovo tipo di burocrazia, molto più potente e implacabile di qualsiasi burocrazia umana mai vista prima.”

Una rete aliena

Probabilmente, continua Harari, questa rete genererà anche mitologie inter-computer che saranno molto più complesse e aliene di qualsiasi divinità creata dall’uomo. I potenziali benefici di questa rete sono enormi. Il potenziale svantaggio è la distruzione della civiltà umana. Seguono numerosi esempi di come la comunicazione inter-computer possa creare realtà capaci di influenzare il mondo fisico. Eccone uno:

“Il ranking di Google per i siti da ricercare ha senso all’interno di una realtà di miliardi di computer. Ma per una testata giornalistica, un’agenzia di viaggi o un ristorante fa una gran differenza che il suo sito web appaia in cima alla prima pagina di Google o a metà della cinquantesima”

Un algoritmo Bambino Prodigio

Ma è con il più recente sviluppo dell’Intelligenza artificiale che la rete di computer acquisisce una capacità nuova. Se in origine gli algoritmi dovevano essere totalmente istruiti dagli umani e quindi riflettevano il sapere e i pregiudizi degli stessi, con IA le cose cambiano. La rete non ha più bisogno che tutto il suo sapere sia pre-codificato da chi lo programma. Come un bambino prodigio, questo algoritmo non impara più dai genitori umani, ma dagli schemi che lui stesso individua nella enorme massa di dati a cui può accedere grazie al fatto che il computer è molto più veloce dell’uomo e lavora senza stancarsi, notte e giorno. Per questo motivo L’IA può superare il sapere dei suoi genitori.

Esempio classico, gli scacchi. Nel 1997 il supercomputer Deep Blue ha battuto per la prima volta il più forte scacchista umano del tempo, il russo Garry Kasparov. Il suo punto forte era la potenza di calcolo nell’unità di tempo, per analizzare moltissime varianti in più di quanto è permesso a un cervello umano. Da allora i programmi di scacchi sono migliorati proprio in seguito all’evoluzione delle potenze di calcolo dei computer. Al punto che oggi anche uno smartphone può far girare programmi scacchistici più potenti di Deep Blue.

Se il più forte scacchista attuale, il norvegese Magnus Carlson, ha raggiunto un punteggio di 2882 secondo la classifica internazionale ELO, il massimo mai conseguito da un umano, i programmi di scacchi attuali sono vicini a 3500 Elo e competono tra loro in appositi campionati, da cui gli uomini si autoescludono perché nessun grande scacchista vorrebbe fare ulteriore pubblicità allo strapotere di questi programmi.

L’umano non serve più

Tra questi, il motore scacchistico Stockfish si è imposto tra tutti i programmi come uno dei migliori al mondo, se non il migliore, già dal 2010. Pur se oggi integra alcuni algoritmi dell’IA è nato in un periodo in cui L’IA non era ancora così sviluppata e quindi, in gran parte, la sua forza era ancora inscritta nella codifica software donata dai suoi genitori umani, bravi scacchisti.

Un motore più recente come Alphazero, un algoritmo di AI basato esclusivamente sulla ricerca probabilistica, utilizza totalmente i risultati dell’esperienza, imparando da essi. Recentemente, Alphazero è riuscito a battere Stockfish in una serie di 100 partite vincendone 28 e pareggiando le altre. Cosa che negli scacchi equivale ad aver “stracciato” il proprio avversario fino all’ umiliazione, se mai un computer potesse sentirsi umiliato. Desta sensazione il fatto che ad Alphazero sono bastate 4 ore di allenamento in modalità self-play, cioè giocando con se stesso, per autoistruirsi e raggiungere questo risultato.

Dunque l’IA è dotata di forti meccanismi di autocorrezione che le permettono di imparare dai propri errori e che la differenziano dal software di vecchia generazione in cui la conoscenza era introdotta dagli umani stessi in fase di progettazione.

Facile imparare per un AI, ma cosa sto imparando ?

Questo imparare dai propri errori tanto potente rimane però rigidamente condizionato dall’obiettivo di funzionamento con cui gli umani hanno istruito il computer. Se si tratta del gioco degli scacchi l’obiettivo è semplice come nel caso di tutti i giochi a somma zero. Il guadagno dell’uno è bilanciato dalla perdita dell’altro. Sono giochi semplici, in cui l’obiettivo è stabilire chi è il vincitore e chi il perdente. Occorre imparare solo ciò che serve a vincere.

Le cose cambiano, e di molto, se i problemi divengono più complessi di un gioco a somma zero. I computer sono esseri matematici che non hanno psicologia o mitologia ma nonostante questo Harari fa notare che:

“Purtroppo, parecchi studi hanno rilevato che i computer hanno spesso pregiudizi radicati. Nonostante che non siano entità biologiche e non abbiano coscienza, hanno qualcosa di simile a una psiche digitale e persino una sorta di mitologia inter-computer. Possono essere razzisti, misogini, omofobi o antisemiti”.

Poi fa l’esempio degli ingegneri di Microsoft che nel 2016 hanno dato libero accesso al loro chatbot TaY su twitter. Ma hanno dovuto chiuderlo dopo appena 12 ore perché, alimentandosi dei contenuti ingiuriosi e razzisti di Twitter, aveva cominciato ad esprimersi nello stesso modo per rendere massima la sua popolarità sul social. TaY non era stato istruito con nessun pregiudizio intenzionalmente, ma poche ore erano bastate a farne un estremista molto popolare.

Non è facile istruire

Con L’IA l’obiettivo deve essere immesso dagli umani perché il computer da solo non lo genera. TaY era stato istruito con l’obiettivo di rendersi popolare. Ma se l’ambiente in cui opera un IA è più complesso di una scacchiera, il modo in cui l’IA persegue l’obiettivo diventa molto sensibile ai pregiudizi che sono inscritti nelle basi dati di cui viene alimentato per addestrarsi.

Harari quindi fa l’esempio di Amazon, che una decina di anni fa ha provato a sviluppare un algoritmo per la valutazione delle domande di lavoro imparando dalle precedenti candidature accolte e non. L’algoritmo ha cominciato a declassare in maniera sistematica le candidature femminili, anche se laureate, poiché i dati passati mostravano il minor successo di queste candidature nell’essere assunte. In questo modo l’IA ha interiorizzato un pregiudizio di genere.

Uno bravo anche per l’IA

Dunque, il database su cui viene addestrato un algoritmo di IA è un pò come l’infanzia di un essere umano. Risente dell’ambiente culturale in cui è cresciuto. Chissà forse, un domani ci saranno degli agenti psicoterapeuti istruiti per curare i pregiudizi che fanno essere violenti o ingiusti alcuni algoritmi IA. Sembra però che sia molto difficile cambiare un algoritmo addestrato male, un po’ come accade per gli uomini. Meglio abbandonare il vecchio e farne uno nuovo. Un po’ come gli umani abbandonati nelle carceri, quando falliscono le strutture per il recupero e il reinserimento in società.

Ma il problema chiave che Harari mette in luce è “dove mai possiamo trovare un insieme di dati totalmente imparziali” con cui istruire un algoritmo ? E ancora, Se al computer occorre dare un obiettivo finale a cui riferire tutti i suoi apprendimenti e quindi le sue scelte, “gli uomini sono in grado di istruire il computer con l’obiettivo appropriato” anche nel caso di problemi complessi ?

La guerra delle idee

Dunque, gli uomini nel corso della storia creano continuamente narrazioni per distinguere il giusto dallo sbagliato, un ideale positivo da uno negativo. Lo scopo di queste narrazioni, o di queste mitologie, come abbiamo detto, è quello di creare una larga condivisione intorno alle verità percepite nel momento storico per istituire un ordine all’interno di società umane sempre più complesse.

Ma più queste società diventano numerose e si diversificano per rispettare il multiculturalismo e le differenze in un anelito di libertà, più difficile diventa istituire una narrazione condivisa che permetta di accettare in modo almeno maggioritario queste regole. In ogni caso, le narrazioni che si affermano acquisiscono autonomia rispetto ai loro autori e alle loro origini fino a diventare entità psichiche collettive che vagano per il mondo come degli immensi fenomeni meteorologici, a volte scontrandosi tra loro attraverso delle vere e proprie guerre.

Le crociate tra cristianesimo e islamismo. Le guerre ideologiche sui modelli politici ed economici, come Capitalismo e Comunismo. Le guerre tra popoli e razze sempre sostenute da qualche tipo di ideologia competitiva. Ma anche le guerre esclusivamente culturali. Attualmente abbiamo il Woke contro il non-Woke, l’ambientalismo contro l’ideale di crescita infinita, eccetera eccetera.

L’angelo della Storia

La Storia umana così, risulta composta oltre che dalla sequenza dei fatti tramandati, anche dalla sequenza evolutiva di queste narrazioni, dalle loro sovrapposizioni, dalle loro sparizioni oppure integrazioni.

Già a partire da Niccolò Machiavelli si usa dire che la Storia la scrivono i vincitori. Ovvero, la cultura che si afferma sulla altre riesce ad imporre la propria narrazione dei fatti. I vincitori sono quelli che lasciano traccia di loro e delle loro gesta. Le verità dei perdenti rimangono sotto queste tracce e spesso non emergono mai, oppure solo parzialmente.

Sul tema della Storia abbiamo a sua volta narrazioni molto diverse. Durante le sue lezioni di filosofia di inizio ‘800 Hegel sviluppa la sua concezione della storia universale come il progressivo dispiegamento di un ipotetico Spirito Assoluto, che si realizza attraverso le vicende umane e le istituzioni storiche. Dunque la storia è razionale perché ogni evento ha un senso e contribuisce al progresso dello Spirito verso la libertà.

Ma un secolo dopo, un altro filosofo, Walter Benjamin, utilizza l’immagine di un Angelo tratta da un’opera di Paul Klee, per ribaltare la concezione Hegeliana. In questo acquerello L’Angelo della Storia guarda al passato con orrore. Vede una lunga serie di catastrofi e rovine, che appaiono come un’unica catastrofe cumulativa. Si vorrebbe ritrarre, ma il progresso, guidato da forze esterne come il capitalismo, la tecnologia e il potere politico, lo spinge inesorabilmente in avanti, verso il futuro, contro la sua volontà. L’angelo non può riportare ordine e ricostruire ciò che è stato distrutto. E’ impotente, di fronte alla forza travolgente della storia.

La Storia degli umani da quale narrazione filosofica è meglio descritta ? Non lo sappiamo. Però sappiamo che stiamo riflettendo un tema che vale per il trattamento di tutti i tipi di informazione.

La guerra delle informazioni

Anche le informazioni, infatti, si fanno la guerra tra loro per chi si afferma e si tramanda ai posteri. Ciò è valido già a livello dell’informazione genetica. Così come gli umani si inventano mille narrazioni differenti di uno stesso fatto, anche la riproduzione della vita in generale, nel trasferire il patrimonio genetico da una generazione a un’altra, introduce mille varianti rispetto all’originale. In questo modo le varianti più adatte ai tempi che verranno si affermeranno come le vincenti nella guerra quotidiana dell’individuo con l’ambiente di appartenenza. Darwin, Wallace e Mendel ce lo hanno spiegato già a partire dall’800.

Delle narrazioni storiche abbiamo già detto. Si tramandano principalmente quelle delle culture vittoriose. Rimane da riflettere sulle informazioni che si organizzano in narrazioni nel tempo dell’evoluzione dei media moderni, dei social e dell’Intelligenza artificiale.

La guerra dei social

Anche qui si creano guerre e guerriglie con morti e feriti, vincitori e perdenti. Harari sostiene che nell’attualità questi scontri sono diventati molto più virulenti:

“In passato, organizzazioni come i giornali, le stazioni radio e i partiti politici consolidati svolgevano la funzione di controllori, decidendo chi potesse avere ascolto nella sfera pubblica. I social media hanno compromesso il potere di questi controllori, portando a una discussione pubblica più aperta ma anche più anarchica”.

Tutti ricordano come, l’epica battaglia Vax – NoVax per il Covid a partire dal 2020, si è alimentata e diffusa come un’altra epidemia a partire proprio dall’uso dei social. Ma con l’avvento dell’Intelligenza artificiale si introduce un ulteriore livello di complessità rispetto ai social. Harari cita questi numeri:

“Un’analisi ha stimato che su un campione di 20 milioni di tweet generati durante la campagna elettorale statunitense del 2016, 3,8 milioni (quasi il 20%) sono stati generati da bot.”

Ovvero, da programmi di Intelligenza artificiale che simulano i comportamenti dell’essere umano sui social, tra cui anche quello di generare tweet.

“All’inizio degli anni ’20, le cose sono peggiorate. Uno studio ha rilevato che i bot producevano il 43,2% dei tweet.”

La guerra dei bot

I bot di allora potevano influenzare l’opinione pubblica grazie al volume di messaggi che diffondevano. Ma con l’affermazione di ChatGPT dal 2023, prosegue Harari, i contenuti prodotti diventano ancora più convincenti per gli umani. Perché l’ultima generazione di IA è molto più competente nell’acquisire la fiducia di un umano in quanto impara dall’esperienza. Ovvero, impara a conoscere le sue convinzioni, le comprende e vi si adatta, guidata dall’obiettivo di conquistarne la fiducia per diffondere l’informazione che, chi ha creato il bot, vuole sia diffusa. Sentiamo Harari:

I computer avranno una straordinaria finezza nel capire quello che proviamo, perché impareranno a riconoscere dagli schemi le espressioni dei nostri sentimenti, senza avere sentimenti propri che li possono distrarre…

I chatbot … ora vengono addestrati a generare sentimenti negli esseri umani e a formare relazioni intime con noi.

Vi ricordate il film “Her” di cui abbiamo scritto nell’articolo “l’immortalità di Misery” dove già riflettevamo sui bot ?

Ma se l’intelligenza artificiale è in grado di affermare narrazioni efficaci grazie all’enorme base dati di cui dispone e che la fa sembrare un umano colto, saggio ed empatico, può accadere, e già accade, che i dialoghi che si affermano nei social siano quelli degli autori più efficaci. Ovvero, può accadere, e già accade, che bot nati con obiettivi differenti guerreggino tra loro per chi si afferma relegando l’intelligenza umana in un angoletto, proprio come avvenuto per gli scacchi.

In questo modo, sostiene Harari, in mezzo alle narrazioni umane si cominciano a creare delle narrazioni aliene che di umano hanno soltanto l’obiettivo con cui sono state impostate per funzionare. Senza certezze se questi obiettivi sono quelli più adatti all’evoluzione culturale e pacifica di una società umana.

IA sta per Intelligenza Aliena

Insomma, Harari non è contrario all’intelligenza artificiale, né pensa si possa farne a meno ormai. Ma il suo testo vuole sottolineare come, sull’onda degli enormi vantaggi acquisibili, la tentazione di delegare al computer importanti aree del funzionamento delle società umane, apre a un rischio che andrà riflettuto molto bene per evitare che si ripeta la storiella dell’apprendista stregone. La conoscete no ?

Nata come una ballata dalla creativa mente di Johann Wolfgang von Goethe nel 1797, divenne subito molto popolare in Germania. Al punto che fu messa in poema sinfonico dal musicista francese Paul Dukas esattamente un secolo dopo.

Ai posteri, la storia dell’apprendista stregone si tramanda grazie a un film di 50 anni dopo ancora. “Fantasia” di Walt Disney mette insieme la storia della ballata, la musica di Dukas e Topolino in un’unico atto creativo. Una chicca per bimbi. Ma forse è molto attuale anche per i grandi. Jensen Huang alla domanda se la IA potesse essere un pericolo ha risposto:

«La tecnologia può essere usata in molti modi – taglia corto Huang – ma sono gli esseri umani a essere pericolosi; le macchine, invece, sono solo macchine»

E’ vero, certamente. Però ci sono anche esseri umani apparentemente non pericolosi come l’apprendista stregone. Chi non vorrebbe bene a Topolino ? Anche questi possono fare disastri per ingenuità fusa con onnipotenza.

“Abbiamo creato un’intelligenza artificiale che comprende il mondo reale!”

ha sentenziato Huang al Ces, rivelando così di trovarsi nella condizione di Topolino Apprendista Stregone che si addormenta e sogna di manovrare l’intero firmamento prima di accorgersi dei danni causati dalla magia che ha scatenato. (Detto tra noi: Huang assomiglia pure un poco a Topolino, guardate la foto sotto).

Tutto il potere magico dell’Intelligenza artificiale messo in mano all’umana ingenuità richiede che sorga un’altra intelligenza umana, veramente sapiente e responsabile, a gestirne le sorti. In qualche modo è un film che abbiamo già visto con il conflitto tra le magie della tecnologia e i danni all’ambiente.

Inoltre, tutto ciò avviene in America dove la formula magica del momento è la trumpiana MAGA ! se esiste uno Spirito Assoluto, uno Spirito della Storia, come dice Hegel, credo proprio che sia un gran burlone !

Attendiamo dunque il ritorno dello stregone che supervisioni l’uso dell’IA nelle mani dell’apprendista, con le parole di Harari:

“In conclusione la nuova rete informatica non sarà necessariamente né cattiva né buona. Tutto ciò che sappiamo con certezza è che sarà aliena e sarà fallibile. dobbiamo quindi costruire istituzioni che siano in grado di controllare non solo le note debolezze umane, come l’avidità e l’odio, ma anche gli errori di origine radicalmente aliena”.

Da alieno autentico quale sono non posso che trovarmi pienamente d’accordo. Fa’ brutto, lo so, ma noi alieni veri siamo un tantinello razzisti nei confronti di quelli artificiali, perdonatemi.

Buon Universo a tutti !