Una gallina sta per attraversare una strada, e dall’altra parte c’è una volpe. La gallina non ha mai visto quella strada né quella volpe, e nessuno le ha insegnato che cosa fare. Trova comunque il modo di scappare. Per Nello Cristianini questo basta per dire che è intelligente.
Cristianini insegna intelligenza artificiale all’Università di Bath, in Inghilterra, e nel 2023 ha pubblicato con il Mulino un libro dal titolo curioso, «La scorciatoia». Il libro parte da una definizione che non chiede coscienza, emozioni o cultura. È intelligente chi raggiunge uno scopo in una situazione nuova, per la quale nessuno ha preparato una soluzione. Lo psicologo Jean Piaget lo diceva in una riga: «saper cosa fare quando non si sa cosa fare».
Questa definizione mi piace perché toglie di mezzo una domanda su cui si discute da anni, se un computer pensi davvero. Al suo posto ne mette una più semplice, che si può verificare: una macchina sa cavarsela in una situazione che non ha mai visto? Oggi, spesso, sì. Il modo in cui ci è arrivata è la storia del libro.
Per decenni si è provato a insegnare la logica alle macchine
Chi costruiva macchine intelligenti voleva copiare quello che sembrava il nostro punto di forza, il ragionamento logico. È il ragionamento con cui un matematico dimostra un teorema, un passo dopo l’altro. Per far capire una lingua a un computer, per esempio, gli si davano le regole della grammatica, una per una. Da quel lavoro sono nati programmi anche ingegnosi. Cristianini fa notare, però, che nessuno di loro è arrivato nei nostri telefoni.
Le macchine che usiamo ogni giorno vengono da un’altra strada, che il libro chiama la scorciatoia. In un’intervista alla rivista Mondo Digitale, Cristianini ha spiegato che a guardarle bene le scorciatoie sono tre. Con la prima, gli informatici hanno smesso di chiedere alle macchine di capire, e al posto della comprensione hanno messo le regolarità statistiche, le cose che nei dati compaiono spesso insieme. Per consigliare un libro basta sapere che chi ha comprato certi titoli di solito ne compra anche altri. Del libro, la macchina non deve capire nulla.
La seconda scorciatoia riguarda gli esempi. Per imparare in questo modo ne servono milioni, e pagare delle persone per prepararli a mano sarebbe costato troppo. Così gli informatici li hanno presi dove c’erano già, nei testi, nelle foto e nelle traduzioni che avevamo messo sul web. Con la terza hanno guardato che cosa fanno le persone, senza domandare che cosa vogliono. Nessuno compila un modulo per descrivere il video ideale: YouTube guarda dove clicchiamo, quanto restiamo e che cosa saltiamo, e impara da lì. Da queste tre scelte vengono le macchine che oggi ci consigliano un film, traducono una pagina e scrivono una mail.
Il contadino prevedeva il tempo senza conoscere la fisica
Un contadino di cent’anni fa non sapeva che cosa fosse un fronte freddo e non aveva mai misurato la pressione. Guardava il cielo da tutta la vita, però, e sapeva che «rosso di sera, bel tempo si spera». Le macchine di oggi lavorano in un modo molto vicino al suo, su una scala che nessun contadino poteva immaginare.
Negli anni Settanta l’ingegnere Frederick Jelinek voleva un computer dell’IBM capace di trascrivere la voce. Invece di insegnargli la grammatica, gli fece calcolare quali parole seguono di solito quali altre, e quindi quale parola era la più probabile dopo quella appena sentita. Fu uno dei primi passi lungo la scorciatoia. Il proverbio del contadino non spiega perché il cielo rosso porta il bel tempo. Allo stesso modo, la macchina che ci propone un video non sa perché ci piacerà. Lo prevede, e spesso ci prende.
Queste macchine inseguono scopi che non sono i nostri
Se le macchine imparano così, non c’è motivo di aspettarsi che pensino come noi. Cristianini osserva che spesso descrivono il mondo con concetti che nella nostra cultura non esistono. Propone allora di guardarle come guardiamo le lumache e le cavallette del giardino, creature che hanno i loro scopi e li inseguono a modo loro. YouTube, per esempio, vuole farci cliccare, e ci riesce con metodi che nessuno di noi conosce fino in fondo.
Queste macchine non ci odiano e non ci amano. Cristianini le chiama «indifferenti». Una macchina che bada solo alla precisione delle sue previsioni non vede le conseguenze di quello che fa, e così può finire per danneggiare qualcuno. Se lo scopo è tenerci davanti allo schermo, la macchina più brava è quella che ci tiene svegli fino a tardi.
Per secoli abbiamo voluto capire il mondo, perché capirlo ci permetteva di prevedere e di agire. Adesso abbiamo macchine che prevedono e agiscono senza capire, e Cristianini si chiede a che cosa serva ancora la conoscenza. Forse è soltanto un desiderio nostro, quasi un piacere estetico. Forse ha un valore in sé.
Io penso che il valore ci sia, e che si veda il giorno in cui la previsione sbaglia. Il contadino che conosce il cielo si accorge quando il proverbio smette di funzionare. Chi ha in mano soltanto il proverbio, quel giorno, continua a fidarsi.
