Cassandra Crossing 681/ Gli "errori in buonafede" degli LLM

Altre ottime domande di Cassandra sugli LLM!

Questo articolo è stato scritto il 27 luglio 2026 da Cassandra

Cassandra Crossing 681/ Gli “errori in buonafede” degli LLM

Photo by Brett Jordan on Unsplash

E’ lecito “correggere” le stronzate degli LLM, dopo averli inseriti tranquillamente in ambienti di produzione? O rinunciarvi interamente è l’unica soluzione “etica”?

Ci sono situazioni in cui la semplice correzione di un problema “a posteriori” non è ammissibile; bisogna imporsi ed imporre di buttare via tutto e ricominciare, cosa difficile e costosa, sia in termini reputazionali che economici.

Si tratta di ammettere errori di base, compiuti magari sull’onda dell’entusiasmo, e procedere in un modo diverso, che garantisca un output privo di errori più di quello che può fare un LLM, un “generatore di stronzate” (termine tecnico, vedi [1]).

Questa esternazione di Cassandra vuole rispondere alle periodiche “non-notizie” che guadagnano gli immeritati onori della cronaca, quando viene riferito ad esempio che un LLM ha cancellato file o database magari condendo la notizia con il pettegolezzo che lo stesso generatore di stronzate ha definito la sua azione “errore in buona fede”.

Sono notizie che contribuiscono al mantenimento del mito degli LLM, e fanno parte del problema dell’antropomorfizzazione delle IA. Anche solo leggerle e parlarne, consumando così il vostro tempo, significa giocare nel loro campo, essere parte del problema, insomma.

Ma oggi affrontiamo un’altra parte del problema.

Se io, dirigente, sistemista, architetto di applicazioni costruisco o faccio costruire un’applicazione od un processo industriale in cui inserisco un LLM, posso poi limitarmi a cercare di rimediare agli errori che questo causa?

Non sono moralmente ed eticamente obbligato a valutare l’eliminazione alla radice del problema, ad esempio tramite la sostituzione del LLM con qualcosa che sia algoritmico, quindi ripetibile ed auditabile?

E magari, avendone l’autorità, vietare l’uso di LLM ed altri sistemi non deterministici in flussi di lavoro critici?

La realtà è che, almeno in ambito industriale, solo una ben motivata e dimostrata convenienza economica può avviare un simile processo; convenienza economica che deve tener conto di modi diversi, e purtroppo molto diffusi, di gestire gli errori, stipulando e pagando polizze assicurative invece di evitarli.

C’è solo un campo in cui l’utilizzo degli LLM è a prova di errore, quello delle LAWS, delle armi autonome letali.

Infatti in quest’ambito l’esattezza assoluta non è reputata necessaria, grazie all’elaborazione di concetti quali “danni collaterali” oppure “fuoco amico”, che precedono di gran lunga le applicazioni dell’informatica al mondo militare.

Insomma, l’unico impiego in cui l’utilizzo degli LLM pare innocuo, rispetto alla situazione preesistente, sembra solo quello di ammazzare la gente.

Che in questo consista la morale di questa esternazione?

@lealternative@feddit.it