Verificare le risposte dell'AI: errori, invenzioni e fonti

Gli assistenti basati sull'intelligenza artificiale scrivono bene, rispondono in fretta e non mostrano mai dubbi. È proprio questo il problema: una risposta sbagliata ha lo stesso tono sicuro di una risposta corretta. Chi usa questi strumenti al lavoro deve sapere dove sbagliano più spesso e come accorgersene.

Perché sbagliano

Un modello linguistico non "cerca" la risposta in un archivio di fatti verificati. Produce il testo più plausibile sulla base di ciò che ha appreso. Quasi sempre il testo plausibile è anche corretto. A volte no: allora il modello completa le lacune con informazioni inventate ma verosimili. Si parla di allucinazioni.

A questo si aggiungono altri limiti:

• le conoscenze del modello si fermano a una certa data, e non sempre lo dichiara;
• può fraintendere la domanda o ignorare un dettaglio importante;
• può riassumere un documento omettendo proprio la parte decisiva;
• se gli si chiede conferma di un'idea sbagliata, tende ad assecondarla.

Gli errori più frequenti

Riferimenti normativi. Articoli di legge con numeri sbagliati, norme abrogate presentate come vigenti, sentenze inesistenti. È uno degli errori più insidiosi per chi lavora in uffici legali, amministrativi e pubblici.

Numeri e date. Cifre, scadenze, importi, percentuali: vanno sempre ricontrollati.

Citazioni e fonti. Il modello può attribuire una frase a una persona che non l'ha mai detta, o indicare articoli e link che non esistono.

Calcoli. Somme, medie e conversioni fatte "a parole" possono contenere errori.

Sintesi. Un riassunto può essere fluido e completamente fuorviante su un punto chiave.

Un metodo in quattro passi

1. Chiediti quanto pesa il risultato. Una bozza di email interna richiede una rilettura. Un parere, una delibera, un contratto, una comunicazione a un cittadino o un dato in una relazione richiedono una verifica seria.

2. Separa il testo dai fatti. Individua nel risultato tutto ciò che è un fatto verificabile: nomi, numeri, date, norme, citazioni.

3. Verifica ogni fatto sulla fonte originale. Il testo della legge sulla Gazzetta Ufficiale o su Normattiva, il documento interno, il sito dell'ente, il bilancio. Se l'assistente indica una fonte, aprila e controlla che dica davvero quella cosa.

4. Rileggi tutto con occhio critico. Il tono è adeguato? Manca qualcosa? Il documento dice ciò che vuoi tu, o ciò che il modello ha ritenuto probabile?

Usarlo nel modo giusto

L'AI è più affidabile quando lavora su materiale che le fornisci tu, autorizzato e pertinente, ad esempio per riscrivere in modo più chiaro un testo che hai già verificato, piuttosto che quando deve "sapere" qualcosa. Ed è più utile come primo passo che come ultimo: per una bozza, una struttura, un elenco di aspetti da considerare.

La responsabilità resta umana

Le regole europee e italiane sull'intelligenza artificiale insistono su un punto: le decisioni e i documenti restano responsabilità delle persone. Nei rapporti con clienti e cittadini, un errore prodotto dall'AI è un errore di chi l'ha usata senza controllarla.

In sintesi

Tratta ogni risposta dell'AI come il lavoro di un collaboratore brillante ma distratto: utile, veloce, da ricontrollare sempre prima di firmare.