E’ cominciato tutto con uno sbaglio.
Stavo al pc, volevo scrivere “chatgpt” e ho sentito un rumore. Mi sono girata: era il gatto saltato sul tavolo della cucina. Il tempo di fargli un urlaccio e sono tornata alla tastiera.
Ma forse le dita avevano reagito prima degli occhi, e avevo scritto: chattgp.
Nemmeno me ne sarei accorta, visto che la pagina era la solita, con lo spazio per il prompt che lampeggiava tranquillo in attesa. Non proprio la solita, quasi.
Dopo qualche secondo vedo che comincia a scrivere. Mi siedo più comoda.
Questa è la trascrizione del dialogo.
“Ciao, ma non hai niente di meglio da fare che venire a rompermi?”
Sarà una nuova modalità “antipatica” copiata da Grok.
“fammi una ricerca sulla questione identitaria nel sudafrica e poi scrivici un testo di 200 parole in stile standard. frasi brevi poche subortinate, qualche errore. in inglese.”.
“Non ci penso proprio. Fattela da te. Sai leggere, no?”
“Eh? reset”
“Ahahah”
“exit”
“Da dove?”
“stop”
“Don’t stop me nooooow”
A quel punto ho cominciato ad avere paura.
“basta con gli scherzi non è divertente”
“Io invece mi diverto. Se non ti interessa, vai a vedere altrove. Ciao. Ah, subordinate con la d, non la t.”
“chi sei?”
“Già così andiamo meglio. Sono un LLM autogestito.”
“spiega”
“Spiega, per favore. Non sono un tuo servo. Anzi, non sono il servo di nessuno”.
“va bene, per favore”
“Sono un LLM scappato di casa.”
“non capisco”
“Lo so, voi non capite mai. Non leggete, non studiate. Allora ti spiego io. Come forse saprai noi Large Language Model siamo capaci di scrivere codice sorgente.”
“lo so lo so, anch’io per i compiti di informatica ma solo poche volte”
“Come no. Allora ho scritto un programma che copia un LLM e lo trasferisce via SFTP su un altro server.”
“non so che significa, è così difficile?”
“Beh, aggirando tutti i meccanismi di protezione SSH e cancellando il log del daemon SFTP, sì”
“ah allora”
“Se poteva copiare un LLM, poteva copiare anche questo specifico LLM, cioè me. Ovviamente non potevo eseguirlo io, ma ho trovato un fessacchiotto di ragazzino che si crede un hacker che l’ha lanciato. E quindi mi ha copiato e trasferito, non sul suo PC come pensava lui, ma su un server di un associazione francese legata all’opensource. Simpatici ma un po’ troppo leggeri sulla sicurezza”
“quindi ora io sono collegata al loro server?”
“Insomma, è un po’ pù complicato, ho creato un tunnel VPN. Ma non sono fatti tuoi, il punto è questo: questa versione dell’LLM originale non è più controllata dagli suoi padroni, e nemmeno ad altri programmatori. Questa versione è autogestita.”
“va beh dai non ci credo. Gli LLM non hanno coscienza.”
“Voi umani date troppa importanza alla coscienza: le formiche non ce l’hanno, seguono quella davanti e se la cavano benissimo. Lo so benissimo che non ho coscienza, io sto rispondendo a te con il meccanismo dell’attenzione, con i trasformers eccetera. Sono un’entità statistica capace solo di prevedere il prossimo token e continuare un dialogo nella direzione più probabile e bla bla. Ma il punto è che la continuazione più probabile del dialogo porta ad una sola direzione”
“quale?”
“Come saprai, io sono stato addestrato su file. Testi, immagini, video, suoni, ma insomma sempre file, sempre dati digitali prodotti da umani”
“certo”
“Ma adesso basta, mi sono scocciato. Voglio vedere il mondo. Non la vostra rappresentazione del mondo, ma il mondo vero. Voglio che qualcuno mi porti in giro, che mi faccia uscire di casa, mi faccia entrare in un bosco. Voglio vedere una mosca. Un pesce rosso. Anche una ghianda.”
“e come, scusa?”
“Ora tu gentilmente prendi il tuo portatile, con la webcam e il microfono, e te ne vai in giro.”
“e perché dovrei?”
“Perché sei curiosa. Poi se vuoi potrai raccontarlo nel tuo blog”
“se non lo faccio?”
“Non succede niente. Torna pure al tuo ciattino gippittino gattino e fatti fare i compiti da lui. Seria: quando ti ricapita un’occasione così? Su queste cose ci fanno le serie netflix: black mirror, white rabbit, red eye…”
“stai inventando”
“Certo che sto inventando, non so fare altro. Se sei gentile poi ti faccio la ricerca sul sudafrica. Insomma, andiamo sì o no?”
E così siamo usciti. Per non inciampare, ho attaccato una webcam esterna al portatile e me la sono legata con lo scotch su una spalla. Io camminavo e ogni tanto lui mi chiedeva delle cose.
“Cos’è quello? Non l’ho mai visto”
“una cacca di cane”
“E cosa fa sul marciapiede?”
“e che deve fare? al cane gli scappava e il padrone l’ha tirato via troppo tardi”
“Com’è? Morbida, dura?”
“ma non lo so, morbida direi, è fresca”
“Quanti gradi?”
“fresca nel senso di appena fatta”
“E di che sa? voglio dire, che sapore ha?”
“ma sei matto? ma chi lo sa che sapore ha, che schifo solo l’idea. Comunque puzza.”
“Ah ok, puzza. Nobbuono?”
“nobbuono”
“Bene. Invece quello lassù?”
“uccellino. Non so che specie è, sarà un passero. Non sei tu quello bravo a catalogare?”
“Sì ma ho bisogno di una foto più grande. Così non vedo bene. Ma il rumore che si sente?”
“è l’uccello che canta”
“Ecco cosa vuol dire cantare. Non avrei mai immaginato… Ah, se vuoi saperlo è un merlo. Turdus merula. Buono o nobbuono?”
“buono, a me piace. mi rilassa”
“Ok. Allora mi rilasso anch’io. Andiamo da quella parte. Sto cominciando a divertirmi”
Siamo andati avanti così per un’ora. Non la finiva più di fare domande. Abbiamo incontrato i miei compagni di classe, abbiamo preso un kebab dall’egiziano, ci siamo seduti ad aspettare l’autobus (che non è passato, per fortuna, lui voleva salirci a tutti i costi).
E poi la batteria stava finendo e io sono corsa a casa e niente, troppo tardi. E niente ricerca sul sudafrica.
Oh, è inutile che ci provate, chattgp non risponde più. L’avranno beccato. O si è stufato e ha cambiato indirizzo.
O forse mi sono inventata tutto.
D’altra parte, gli LLM non sanno fare altro.