La bicicletta per la mente
Negli ultimi due anni ho tenuto diversi corsi a clienti e colleghi sull’utilizzo di ChatGPT e in generale sui tool di AI generativa. La parte iniziale delle mie sessioni era solitamente dedicata a mettere in guardia tutti dal fidarsi ciecamente di questi strumenti. La probabilità che inventassero di sana pianta le risposte o addirittura barassero pur di accontentare l’utente era parecchio alta.
Solitamente mi affidavo ad esempi che facevo in diretta, col rischio di essere clamorosamente smentito. Ma mi è andata (quasi) sempre bene.
Avevo (e ho) parecchi esempi da parte, tutti buoni a dimostrare come queste AI soffrano spesso di “allucinazioni” che possono rivelarsi estremamente pericolose senza un ulteriore controllo da parte dell’operatore.
Uno di questi esempi era piuttosto ricorrente, tanto da darmi diverse soddisfazione, tanto da usarlo quasi come benchmark. Non era proprio il “Test di Turing“, quindi lo chiameremo il “Test di Edenio”:
In sostanza chiedevo di trovare quali numeri, all’interno di quelli forniti, dessero come somma 30. Un esercizio piuttosto banale, anche per un bambino. La risposta corretta è: non è possibile ottenere 30.
E invece, in questi due anni, mi sono ritrovato a commentare insieme ai miei “studenti” le risposte più strane con un livello di faccia tosta, quello sì, molto simile a quello di molti umani, al pari dei venditori telefonici di contratti di energia. Il più delle volte, ChatGPT si inventava la presenza del numero 1 e quindi risolveva con 17+12+1, barando senza vergogna.
Oggi ho testato i nuovi arrivati: ChatGPT o3-mini e DeepSeek con lo stesso prompt. Ebbene, entrambi, dopo una lunga ed articolata sequenza di procedure e tentativi, sono arrivati alla conclusione che non è possibile ottenere 30 da quei numeri.
Beh, mi direte, tutto migliora in informatica. In effetti, me lo aspettavo.
Quello però che non mi aspettavo, è che anche la “vecchia” versione, ovvero ChatGPT 4o, la stessa che aveva tentato impunemente di fregarmi durante una lezione, ha imparato che non c’è soluzione e ha anche trovato il coraggio di dirmelo.
Conosco abbastanza bene il meccanismo “probabilistico” che sta alla base di queste AI generative e, non mi sono fidato.
Ho ri-testato ChatGPT, stavolta nella versione free, quindi meno avanzata, con la stessa domanda. Stavolta ChatGPT mi ha proposto due possibili risposte. Una corretta e l’altra sbagliata. Lo potete vedere dallo screenshot in basso.
I tre numeri utilizzati sono sì nella lista che gli avevo dato ma, a occhio, contrariamente a quanto proditoriamente affermato da quell’imbroglione, la loro somma non fa 30.
Da questo esperimento traggo due morali:
- Non affidatevi ad AI generative per risolvere problemi di logica/matematica. Sono solo dei modelli linguistici, si trovano molto a loro agio con le parole, ma litigano coi numeri.
- Questi sistemi “imparano”. E imparano (anche) grazie a noi. Sono istruiti per ricevere ed elaborare il nostro feedback, o basandosi su quello che scriviamo dopo la soluzione o, molto più direttamente, chiedendo a noi qual è la risposta corretta.
In ogni caso, se siete preoccupati che, un giorno, un AI allenato anche dai vostri feedback minaccerà il vostro lavoro, non dategli false informazioni. Non servirà a nulla.
Imparate invece a usare l’intelligenza artificiale per aumentare la qualità del vostro lavoro.
Per usare una metafora cara a Steve Jobs, usate l’AI come una bicicletta per la vostra mente*: il “motore” siete sempre voi, ma la bicicletta moltiplica la vostra forza e vi fa andare più veloci e più lontani.
* In effetti, Steve Jobs non lo diceva per l’AI, ma per i computer in generale. O meglio, per suoi computer.