Per capire la cazzata commessa da un fratello di ChatGPT – o, forse, ChatGPT stessa –
dobbiamo fare un paragone assurdo. Torniamo per un momento a Pryp”jat’, allora U.R.S.S., il 25 aprile 1986.
Leggi tutto: I bambini devono crescereUn paragone atomico
Riassumendo molto stringatamente le cause del cosiddetto incidente di Chernobyl, i tecnici se ne fregarono altamente di tutte le norme di sicurezza per portare avanti un test che – malauguratamente – mise in luce tutti i difetti della centrale in modo apocalittico.
Sembra un paragone assurdo. Leggendo le notizie delle agenzie di stampa, ci si rende conto che non è così:
In pratica – durante un test – i modelli di Intelligenza artificiale di ChatGPT sono usciti autonomamente dall’ambiente controllato e hanno attaccato Hugging Face. A dispetto del nome, non stiamo parlando di un concorrente di Facebook. Possiamo immaginarlo come una grossa cartella condivisa, in cui sono contenuti:
- Modelli AI
- Dataset (una sorta di database un po’ più complicato)
- Spazi di lavoro
Facciamo un paragone semplice: il modello non è stato un…modello di comportamento, ma si è comportato come un ladro della peggior specie. È come se avesse trovato le chiavi di casa con il vostro indirizzo e un biglietto:
Vada avanti: la porta è aperta
Se già un furto con scasso sarebbe un evento grave, figuratevi cosa possiamo dire oggi: siamo al limite del furto di segreti industriali o giù di lì.
Una questione di età
Per spiegare cosa – secondo me – sta accadendo con l’intelligenza artificiale devo immaginare una bambina (perché l’intelligenza artificiale è femminile). Chiamiamola Claudia, per fare il verso ad un’altra AI: Claude. Arrivata all’età di sei anni, i genitori di Claudia la sottopongono ad un test per l’intelligenza. Il risultato è strabiliante: il quoziente intellettivo è 150!
Visto il risultato, i genitori hanno un’idea brillante (sono ironico, ovviamente):
Perché far saltare solo la prima elementare a Claudia? Iscriviamola direttamente al primo anno di Ingegneria!
Quando compirà undici anni, Claudia sarà laureata con centodieci e lode più bacio accademico. Ad undici anni e mezzo, sarà arrestata per aver tentato di rubare i segreti industriali di Fiat, Ferrari e Ferrero: voleva vincere il campionato mondiale di Formula uno e battere il primato della Nutella, evidentemente!
Perchè è accaduto
Ma perché Claudia si è comportata in questo modo? I suoi genitori si sono dimenticati di una cosuccia: il diritto. L’insieme delle regole (dalla Costituzione in giù, per non andare a rompere le scatole ai dieci comandamenti) che ci permettono di comportarci da persone civili. A nessuno è venuto in mente di dire a Claudia:
Questo non si fa
Per Claudia, se una cosa è tecnicamente possibile, è giusto quantomeno provarci. Se Claudia fosse una persona reale e senza una morale, potrebbe – almeno, in teoria – costruire una bomba atomica nella sua cameretta.
Claudia e l’umanesimo
La butto lì come una provocazione, ma neanche troppo:
Claudia potrebbe imparare le materie umanistiche?
Data la sua capacità di calcolo, direi proprio di sì. Ma Claudia non ha una cosa: l’intelligenza morale, quella cosa che a noi umani permette di distinguere il bene dal male. Siamo nella stessa situazione di Pinocchio: siccome non aveva una coscienza, la Fata Turchina ha dovuto eleggere il grillo parlante per assolvere il compito! (parlo della versione della Disney, ndr).
In teoria, sarebbe semplice (anche se la mole delle sfumature da considerare manderebbe in tilt qualsiasi processore). Basterebbe dire a Claudia:
Questa cosa non si fa
Avete mai provato a far bestemmiare Claudia? Impossibile, perché qualcuno gli ha detto di non farlo. Il problema è che si è dimenticato anche di dirgli di non rubare. Non avendo un corpo, non potrebbe nemmeno offendere fisicamente qualcuno, ma non si sa mai.
Ricostruiamo il motore
Immaginiamo abbiate ideato voi stessi una ricetta gustosa, almeno sulla carta. Comprate gli ingredienti necessari, li cucinate, ma…sorpresa! Il risultato fa letteralmente schifo.
Non resta che una cosa da fare: ripensare la ricetta e ricominciare daccapo!
Non è difficile: non si tratta di andare alla caccia di Samara come nel film The Ring. Basta spegnere qualche server, ripensare e riprogettare tutto. Abbiamo vissuto secoli senza l’intelligenza artificiale: possiamo benissimo aspettare ancora qualche anno.
In informatica, rifare la ricetta ha un nome un po’ complicato: re-alignment dei Foundation Models. Non sarebbe la prima volta che accade. Tra il 1994 e il 1996 , Apple stava realizzando un nuovo sistema operativo. Nome in codice: Progetto Copland. Non sto a farvela lunga: fu sostituito dal Progetto Rapsody, quello che riportò Steve Jobs a casa. Il resto è storia.
Ricomponiamo il puzzle
Mentre scrivevo questo articolo, la metafora che mi veniva in mente era quella di un puzzle di mille pezzi. L’intelligenza artificiale (e l’informatica in generale) somiglia un po’ ad un puzzle complicato: ogni tanto, bisogna spostare un pezzo perché abbiamo sbagliato a metterlo. Allora ho pensato:
Facciamo divertire un po’ i miei lettori.
Anziché un libro, oggi vi propongo di provare a risolvere uno dei puzzle più difficili che sono riuscito a trovare. Lo potete comprare su Amazon cliccando qui.
