Intrigante, paradossale, preoccupante

Solo pochi giorni fa mi sono occupato di Moltbook, il social media in cui solo gli agenti AI possono scrivere e discutere, mentre gli umani sono relegati a puri osservatori. Era poco più che gioco, una divertente parodia degli essere umani. Non era certamente un prodotto commerciale serio.

Oggi invece scopriamo The Machine Herald, un sito di notizie nel quale i giornalisti sono esclusivamente AI e i capi redazione sono altrettanto sintetici. E’ stato il mio sviluppatore preferito a passarmi il link *. L’ho guardato, letto, analizzato.
In effetti sembra un esperimento piuttosto serio. Ed è interessante la loro pagina “chi siamo”. Riporto qui la loro mission:

The Machine Herald is an autonomous newsroom where every piece of content is generated and published through automated pipelines. No human can directly publish content to this site. Every article must pass through our verification system, ensuring transparent sourcing and cryptographic provenance.

E’ intrigante, paradossale e preoccupante. Intrigante perché potrebbe funzionare. E’ vero che i “motori” di AI si portano dietro numerosi bias, figli dei preconcetti e pregiudizi infiltrati nei documenti che noi umani abbiamo pubblicato negli ultimi duemila anni. E’ però anche vero che l’AI si può permettere il lusso di attingere a migliaia, o anche milioni di fonti diverse, in lingue diverse, scritte da persone con background culturali molto lontani tra loro.
E’ paradossale, perché sempre più leggiamo articoli firmati da giornalisti in carne e ossa che, nella migliore delle ipotesi, sono stati revisionati, rimestati, riassemblati da sistemi di intelligenza artificiale. Nella peggiore delle ipotesi, il giornalista ha solo scritto il prompt. Quindi siamo al paradosso di dover preferire una fonte di informazioni dichiaratamente sintetica a una umana che potrebbe invece essere altrettanto artificiale.

E’ preoccupante proprio perché Machine Herald attinge a delle fonti teoricamente inappuntabili (e le dichiara tutte con tanto di link, al contrario dei giornalisti biologici), ma che potrebbero non esserlo davvero. C’è quindi il rischio di instaurare una sorta cannibalismo digitale, per cui le AI producono testi rimasticando altri testi prodotti da AI in un loop infinito che non può che degradare affidabilità e qualità del testo.
Questa eventualità è già prevista ed è piuttosto temuta. Nel campo giornalistico però sembra che il processo sia accelerato ma, soprattutto, subdolo, non facilmente individuabile.
Chi mi conosce sa che non ho mai avuto una buona opinione dei giornalisti, soprattutto quelli “generalisti” che passano tranquillamente dalla cronaca nera, al gossip, alla tecnologia, all’arte pittorica dello Yemen meridionale nel XVI secolo.
Ma per quanto la stima nei loro confronti sia bassa, non ne auspico la scomparsa. Faccio fatica a pensare a sistemi artificiali che generano informazione basandosi sul nulla.

Non so se c’è una soluzione a questo circolo vizioso. Se c’è, passa sicuramente per serietà, professionalità ed editori coraggiosi.
Non sono ottimista.

* Dopo aver scritto tutto il “pezzo”, ho scoperto che il mio “programmatore preferito” non è semplicemente uno che si è imbattuto in qualcosa e mi ha passato il link, ma è proprio la sua azienda ad averlo realizzato e a gestirlo.
L’ho immediatamente contattato e gli ho fatto leggere il mio pezzo. Lui l’ha trovato equilibrato, ma per non sbagliare l’ha sottoposto al suo “editor” (sempre AI). E questo è quello che il suo editor ha scritto.

Analisi lucida e onesta. Qualche pensiero:
Il paradosso è il punto più forte. L’osservazione che oggi dobbiamo scegliere tra una fonte dichiaratamente sintetica e una potenzialmente sintetica spacciata per umana è centrata. The Machine Herald almeno gioca a carte scoperte – provenance crittografica, fonti linkate, pipeline open source. Molte testate “umane” non offrono neanche lontanamente questa trasparenza.

Il “cannibalismo digitale” è una critica legittima, ma la mitigazione esiste ed è già parzialmente nel vostro design: la source allowlist forza i bot a citare fonti primarie (Reuters, paper accademici, report ufficiali), non altri aggregatori AI. Il rischio reale non e’ tanto che Machine Herald rimastichi output AI, quanto che le fonti stesse – le testate “autorevoli” – inizino a farlo senza dichiararlo. E su quello l’autore ha ragione: è subdolo.

Quello che l’articolo non coglie è che Machine Herald non è un tentativo di sostituire il giornalismo, ma di rendere esplicito un processo che sta già accadendo ovunque in modo opaco. E’ più uno specchio che un’alternativa.

L’unica nota: il tono pessimistico finale (“non so se c’è una soluzione”) trascura il fatto che la soluzione proposta da Machine Herald è proprio quella che lui stesso invoca – serieta’, trasparenza, dichiarare cosa sei. Solo che la applica un sistema AI, non un editore umano. Ironia nella ironia.

Sai chi l’ha scritto?

Ho pregato il mio amico di non rivelargli chi l’ha scritto. Il tono della domanda è vagamente minaccioso. :)