Sui limiti dell’IA e come beneficiarne
Cerèbro folle, a che pur l’arco tendi?
Mentí, mentí chi ti descrisse sacro
Il disio di seguire conoscenza.
Il Versificatore
«Ebbene: come si trova oggi? Ne potrebbe fare a meno? No, non è vero? È uno strumento di lavoro come un altro»
È passato un anno da quando ChatGPT è stato messo a disposizione del pubblico: durante il tempo intercorso, si è parlato molto di questo software, delle sue potenzialità, dei rischi che ad esso sono correlati, ma anche della sua operatività, che di primo acchito sembrava frutto di una stregoneria più che il più prodotto più all’avanguardia della tecnologia informatica. Effettivamente, ai primi tentativi di utilizzo era difficile trattenere lo sbigottimento e, diciamocelo, la meraviglia di fronte alle sbalorditive capacità sintattiche e cognitive del sistema. Da quando è diventato uno strumento integrato nella routine informatica di molti di noi, però, l’entusiasmo iniziale ha lasciato il posto a un più moderato interesse, accompagnato peraltro anche da alcune legittime perplessità. La mole dei commenti sulle mancanze, le inesattezze e i clamorosi errori dell’applicazione si è così fatta consistente: c’è chi ha mostrato i limiti della macchina nel campo che dovrebbe esserle più consono (quello della logica matematica, anche di livello elementare) e chi ha invece denunciato le menzogne che, senza una ragione evidente, essa ha prodotto, scusandosi poi ossequiosamente nel momento in cui le si fa notare la svista (o la clamorosa cantonata). Disservizi di questo tipo sono stati in parte già corretti, e comunque giustificati dalle spiegazioni che sono via via emerse a proposito del suo metodo di funzionamento. D’altronde, basta interrogare la chatbot per sciogliere alcuni dubbi: diversamente dal modus operandi di un calcolatore, infatti, il meccanismo di generazione di risposta di ChatGPT si basa sulla ricerca, tra le possibili sequenze di parole, di quella che ha la maggiore probabilità di essere la replica corretta, in base a ciò che ha “imparato” durante le precedenti fasi di allenamento su enormi quantità di testo (ad esempio libri e pagine Internet), per prevedere la prossima parola in una sequenza.
Questa descrizione ci permette di trarre alcune considerazioni sul fenomeno, anche se credo sia utile mettere in chiaro fin da subito che si tratta di un bilancio tutt’altro che definitivo. Giorno dopo giorno riceviamo notizie con le quali si fa fatica a stare al passo: è già stata rivelata l’imminente integrazione di software di intelligenza artificiale su diversi dispositivi (dai telefonini ai supporti casalinghi di assistenza virtuale); Microsoft ha annunciato l’uscita, nel 2024, di un sistema operativo che sarà in grado di eseguire comandi vocali per far lavorare in sinergia diverse applicazioni (per cui, a quanto pare, sarà possibile, per esempio, “chiedere” al computer di copiare un testo da una pagina web a un foglio di lavoro, oppure di eseguire operazioni nei fogli di calcolo senza il bisogno di conoscere i comandi atti a compierle); OpenAI ci ha da poco informato che l’ultima versione di ChatGPT è in grado di “vedere, ascoltare, parlare”, in modo che gli utenti (abbonati) possano integrare le immagini all’interno delle conversazioni e avere un dialogo vocale con la chatbot, che sarà di conseguenza sempre più presente nelle nostre giornate[1].
L’impressione, insomma, è che di qui a qualche anno guarderemo a questi primi prodotti dell’intelligenza artificiale con la compassione nostalgica che oggi riversiamo sui primi modelli di telefonia mobile, residui ormai quasi favolistici di tecnologie decisamente meno evolute di quelle attuali. La legge che Gordon Moore ha elaborato in relazione ai transistor, e che può essere riassunta nella formula “il numero di transistor su un chip raddoppierà approssimativamente ogni due anni”, può infatti venire facilmente applicata anche ad altri ambiti dell’innovazione tecnologica, tra cui senza dubbio quello dell’intelligenza artificiale, per cui è facile immaginare che la potenza di calcolo di questi sistemi avrà e continuerà ad avere uno sviluppo a dir poco esponenziale[2].
«Non vorrà mica sostenere che questa roba è geniale!»
Proviamo quindi a descrivere lo stato dell’arte, o almeno quello di avanzamento dei lavori, e lo facciamo, tra i vari possibili, dall’unico punto di vista che ci è consono, cioè quello di utenti da un lato e di insegnanti dall’altro. La nostra valutazione di ChatGPT non può prescindere, innanzitutto, dal rilevare la sua formidabile capacità sintattica e ortografica. I testi che produce sono consequenziali, ben organizzati dal punto di vista argomentativo e non presentano, tranne in rari casi, errori di carattere tipografico. Qualcuno ha proposto, immaginandola alle prese con un compito scritto o un’interrogazione in classe, di darle un 7 pieno: non raggiungerebbe l’eccellenza dei voti più elevati, ma si terrebbe dignitosamente al di sopra della sufficienza, oltre quella soglia guadagnata, talvolta con fatica, dalle studentesse e dagli studenti che, tra i banchi di scuola, ci stanno in carne e ossa. Fermandoci a ciò, però, finiamo per tralasciare una serie di elementi che invece non devono venire ignorati, primo tra tutti quello della elusività di molte delle sue risposte: innanzitutto, ChatGPT afferma molto raramente di non conoscere un argomento o di non saper fornire una risposta. La chatbot, inoltre, cerca il più possibile di compiacere l’utente con cui si interfaccia, per cui se le si domanda il riassunto del racconto Il versificatore di Italo Calvino sciorina una narrazione di senso compiuto, con dovizia di dati, dettagli letterari ed editoriali e persino un breve commento critico, su un racconto che avrebbe come protagonista il personaggio-feticcio calviniano Marcovaldo e che sarebbe stato pubblicato nel 1963 nella raccolta Le stagioni in città. Un discorso fluido, che si legge senza inciampi, salvo per il dettaglio, non trascurabile, che Calvino non ha mai scritto nulla del genere – quel racconto breve (di cui ci stiamo servendo per gli incipit dei paragrafi di questo contributo) è a firma Primo Levi.
Saremmo felici, in verità, di scoprire che la montagna di falsità che produce la chatbot sono il risultato creativo della sua capacità immaginativa; invece, la spiegazione circa la sua modalità di funzionamento, che abbiamo riportato in apertura, ci informa dell’opposto. Non si tratta di invenzioni creative, originali, ma del rimescolamento di una grande quantità di dati digeriti in precedenza e che ora vengono riproposti sulla base di un meccanismo di mera probabilità, ovvero: più è probabile che a un certo sintagma ne segua un altro, più la chatbot tenderà a riprodurlo nella sua risposta. La dinamica sta agli antipodi, crediamo, di qualsivoglia forma di pensiero, che, al di là delle sue specifiche definizioni, non può prescindere da una presenza vigile nel processo di comprensione e, conseguentemente, di risposta. Quel che accade quando convochiamo l’IA è, da parte della macchina, l’attivazione di una meccanica irriflessa, dove si procede “alla cieca”, assemblando pezzi di discorso senza alcuna contezza o supervisione critica su ciò che sta accadendo.
Nella nostra classe ideale, la studentessa o lo studente che con malizia si arrabatta, millantando conoscenze e inventando improbabili teorie critiche, non riceverebbe la sufficienza, ma verrebbe comunque incoraggiato a sfruttare le proprie capacità creative, incanalandole verso un processo che sia, per lei o per lui, anche di proficuo apprendimento. La chatbot ci sembra un caso molto più disperato, e a essa riserveremmo una insufficienza grave e senza appello: oltre la patina di presentabilità dei suoi discorsi, la relazione che instaura con la conoscenza non offre nulla di nuovo, nessuno spunto interessante. È tecnicamente non euristica e congegnata per promuovere elementi ripetuti, dati triti e ritriti in base alla loro più probabile prevedibilità. Rappresenta l’ovvio nella sua più alta forma di efficienza e tutto ciò che produce di inconsueto è dovuto a un caso fortuito che nulla ha a che vedere con il guizzo di genialità che permette ad alcuni di pensare out of the box: la chatbot è, al contrario, perfettamente inscatolata, quadrata e ordinaria nei suoi processi come il più noioso e ottuso dei discorsi. Letteralmente, banale.
«Geniale no, ma commerciabile. Più che sufficiente per ogni scopo pratico»
Abbiamo provato a giudicare la chatbot sulla base dei parametri di valutazione che adotteremmo nei confronti delle nostre studentesse e dei nostri studenti a scuola. Bisogna, tuttavia, ammettere che il “voto” cambierebbe decisamente di segno qualora fossimo chiamati a stimarne l’utilità. Io stessa, da quando è stata resa pubblica, ho usufruito in più di qualche occasione delle sue funzionalità, che mi hanno aiutata a svolgere alcuni compiti di scrittura in un arco temporale decisamente più breve di quello che avrei impiegato con le mie sole forze. Sembriamo di fronte a una contraddizione, ma l’ambiguità si chiarisce facilmente, tenendo conto dell’abnorme quantità di testi, molto spesso soltanto “di servizio”, che vengono richiesti dal mercato, dall’auto-sponsorizzazione di sé sui social all’apparato burocratico (progettuale, accademico, editoriale, amministrativo, gestionale e chi più ne ha più ne metta).
Luciano Floridi fornisce un dato eclatante in merito:
Alcuni anni fa i ricercatori della School of Information di Berkeley hanno stimato che l’umanità abbia accumulato approssimativamente 12 esabyte di dati nel corso della storia fino alla diffusione dei computer e, a partire da questa, 180 esabyte già entro il 2006. Secondo uno studio più recente, il totale è cresciuto fino a più di 1.600 esabyte tra il 2006 e il 2011, oltrepassando in tal modo la soglia dello zettabyte (1.000 esabyte). Questo numero tende a crescere di quattro volte pressappoco ogni tre anni, cosicché si sono raggiunti gli 8 zettabyte di dati entro il 2015. Ogni giorno viene generato un numero sufficiente di dati da riempire tutte le biblioteche americane più di otto volte. (L. Floridi, La quarta rivoluzione. Come l’infosfera sta trasformando il mondo (2014), tr. it. di M. Durante, Raffaello Cortina, Milano 2017, p. 13)
Non ci serve conoscere nel dettaglio a cosa si riferiscono queste unità di misura per renderci conto della sproporzionata mole di informazioni che la rivoluzione digitale trascina con sé. Possiamo però domandarci quanti di questi testi possano essere considerati innovativi, creativi geniali o anche solo il prodotto di una ponderata operazione di pensiero, e quanti invece non siano un’accozzaglia di banalità, frasi fatte e scontate di cui abbiamo bisogno in termini informativi o, più che altro, perché abbiamo “datizzato” il mondo, al punto che, tutti gli elementi in esso presenti, devono poter essere informatizzati, codificati, descritti. Si dice, per via metaforica, che chi è abituato a tenere un martello in mano, sarà spontaneamente indotto a cercare attorno a sé cose o superfici da colpire, oggetti da appiattire, chiodi da conficcare. Sono ormai due decenni che l’essere umano è dotato di una protesi, lo smartphone, attraverso cui il mondo è costantemente computato: viene naturale interrogare compulsivamente lo strumento per ottenere delle risposte – che tendenzialmente dimentichiamo in un tempo direttamente proporzionale alla facilità con la quale abbiamo ottenuto quelle informazioni. Questo processo ha però come inevitabile pendant anche la necessità di una produzione incessante di quegli stessi dati di cui pretendiamo di fruire, siano essi significativi o piuttosto, come nella stragrande maggioranza dei casi, ridondanti, superflui e sostanzialmente banali.
«Basta! Ne ho abbastanza di questo sporco mestiere: non sono un menestrello. Non sono un versificatore. Puh, è una galera, questa.»
Non dovremmo tuttavia essere frettolosamente liquidatori nei confronti della banalità, che rappresenta uno stato nient’affatto neutro rispetto alle conseguenze che può comportare. Ce lo ha insegnato Hannah Arendt, associando l’idea di banalità addirittura al nazismo e all’atteggiamento di irriflessa obbedienza tenuto da alcuni suoi gerarchi. Di Eichmann, su cui pendevano quindici capi d’accusa tra cui crimini contro l’umanità, la filosofa dichiara espressamente che egli non aveva la statura di alcun “cattivo” per antonomasia – «non era uno Iago né un Macbeth» –: le sue azioni sono state possibili a causa di una profonda «mancanza di immaginazione» e dal fatto che egli
non capì mai cosa stava facendo […]. Non era uno stupido. Era semplicemente senza idee (una cosa molto diversa dalla stupidità) […]. Quella lontananza dalla realtà e quella mancanza d’idee possono essere molto più pericolose di tutti gli istinti malvagi che forse sono innati nell’uomo. (H. Arendt, La banalità del male (1963), tr. it. di P. Bernardini, Feltrinelli, Milano 2008, pp. 290-291)
La banalità ci deve sempre porre in uno stato di allerta. Rispetto alla banalità del male, tuttavia, il caso della banalità digitale, oltre che rappresentare un oggettivo pericolo, offre anche alcune chance che sarebbe uno spreco non cogliere. L’ordine di rischio con cui abbiamo a che fare concerne la possibilità di abbassare il livello delle nostre produzioni scritte (per quanto riguarda l’uso dell’intelligenza artificiale nel campo della produzione di testi), ma più in generale di adeguare la realtà all’elementarità delle macchine. Esprime bene Luciano Floridi questa preoccupazione:
Le ICT [Information and Communication Technologies] non stanno diventando più intelligenti, rendendoci al contempo più stupidi. È il mondo invece che sta divenendo un’infosfera sempre più adattata alle limitate capacità delle ICT. […] adattiamo l’ambiente alle nostre tecnologie smart per assicurarci del fatto che queste possano interagire con successo con esso. (Floridi, La quarta rivoluzione cit., pp. 163-164)
Parallelamente, e non per forza in forma esclusiva rispetto al pericolo accennato, esiste però anche un’opportunità connessa al dilagare del digitale e della sua banalità. Concerne la possibilità che abbiamo, e che anche le chatbot di ultima generazione ci fanno toccare con mano, di chiudere i conti con le mansioni più banausiche e frustranti, delegandole, pur con la dovuta vigilanza critica, alle macchine. Vediamo di cosa si tratta.
Come annunciato poco sopra, secondo ChatGPT Il versificatore è un racconto di Italo Calvino in cui «Marcovaldo scopre una macchina nella redazione di un giornale che, con l’uso di magneti, è in grado di comporre versi poetici scegliendo parole a caso. Marcovaldo è affascinato da questa macchina e inizia a utilizzarla, producendo poesie che finiscono per essere pubblicate sul giornale. Ciò attira l’attenzione dei lettori e Marcovaldo diventa una sorta di celebrità». Non serve continuare la citazione della sinossi prodotta dalla chatbot, poiché niente di ciò che scrive trova corrispondenza nella ‘vera finzione’ ideata da Primo Levi. In quest’ultima, si parla di un poeta, stanco del lavoro ripetitivo e poco appagante di composizione di testi su commissione, il quale accetta di affidarsi a una macchina per produrli. La narrazione conta poche pagine e vale la pena di recuperarle per il piacere di una loro lettura diretta. In questa sede, ci siamo limitati a riportare, in esergo ai paragrafi, alcuni passaggi letterariamente icastici, che hanno dato l’abbrivio ad alcuni ordini di considerazioni a proposito dell’intelligenza artificiale – concetto peraltro sconosciuto all’epoca della pubblicazione della raccolta. Anche a proposito delle occasioni offerte dal digitale, il poeta protagonista della narrazione ha qualcosa da insegnarci. La sua scelta di affibbiare alla macchina parte del proprio lavoro, infatti, è raggiunta per esasperazione, ma gli permette di liberare alcune sue capacità altrimenti assopite o comunque asservite all’ordinaria amministrazione.
Esiste una gioia, nel nostro lavoro, una felicità profonda, diversa da tutte le altre, la felicità del creare, del trarre dal nulla, del vedersi nascere davanti, a poco a poco, o d’un tratto, come per incanto, qualcosa di nuovo, qualcosa di vivo che non c’era prima… (Freddo ad un tratto) Prenda nota, signorina: “come per incanto, qualcosa di nuovo, qualcosa di vivo che non c’era prima, puntini”: è tutta roba che può servire. (P. Levi, “Il versificatore”, in Storie naturali (1966), Einaudi, Torino 2022, ed. dig.)
La macchina si è insediata nel suo ufficio, ma con questo egli recupera una dimensione di lavoro molto più piacevole e connessa alla sua indole profonda, che è quella di poeta e non di «mestierante». La riguadagnata vena lirica compare fin dalla descrizione del suo talento, tant’è che alla segretaria viene chiesto subito di «prendere nota».
Oggi costituisce uno scenario non più eccessivamente fantascientifico quello di un mondo in cui l’essere umano è liberato dai lavori più pesanti da un lato, e meno soddisfacenti dall’altro. All’interno di questa cornice, c’è senza dubbio spazio per una riappropriazione, da parte degli esseri umani, dell’area della creatività, della riflessione ponderata, del pensiero e della comprensione profonda, così come del guizzo geniale e dell’intuizione estrosa fino a poco fa relegata alla nicchia, sempre più ristretta, del tempo cosiddetto “libero”. Le nuove generazioni stanno già compiendo passi che a quelle precedenti sembrano tutt’ora impossibili: il movimento delle e dei quitter ne è testimonianza, con la loro etica del rifiuto a senso unico (cioè non per forza avendo a disposizione altre offerte) di mansioni che non permettono loro di esprimersi adeguatamente sul posto di lavoro. Non è un fenomeno da etichettare come l’atto di una popolazione di privilegiati, che hanno alle spalle famiglie che concedono questo “lusso”, perché non è sempre questo il caso. Si tratta invece di un fenomeno più complesso e più incisivo, indicativo della necessità di ripensare il concetto di lavoro dalle sue fondamenta, affinché, anche grazie alle macchine e all’intelligenza che viene loro generosamente attribuita, si ristrutturi un tessuto sociale all’altezza dei bisogni, ma anche delle ambizioni, delle aspirazioni e dei flussi di desiderio di ciascuna e ciascuno di noi.
[1] ChatGPT ora vede, sente e parla, su Wired, consultabile all’indirizzo https://www.wired.it/article/chatgpt-novita-immagini-voce/ (ultimo acceso 27 settembre 2023).
[2] È quanto emerge da uno studio promosso dalla Cornell University, secondo cui, dall’avvento del Deep Learning, all’inizio del 2010, l’addestramento delle macchine ha subito un’accelerazione, raddoppiando ogni 6 mesi circa, ma già alla fine del 2015 è emersa una nuova tendenza e l’addestramento è risultato da 10 a 100 volte superiore. Si veda J. Sevilla, L. Heim, A. Ho, T. Besiroglu, M. Hobbhahn, P. Villalobos, Compute Trends Across Three Eras of Machine Learning, in «arXiv», consultabile all’indirizzo https://doi.org/10.48550/arXiv.2202.05924 (ultimo accesso 20 settembre 2023).
Questo articolo è stato pubblicato su “La Ricerca”, 25 (2023), pp. 19-22.