Scegliere uno strumento di AI per l'ufficio: le domande da fare al fornitore

Sul mercato si moltiplicano gli strumenti basati sull'intelligenza artificiale: assistenti per scrivere e riassumere, funzioni AI dentro gestionali e suite d'ufficio, sistemi per analizzare documenti, chatbot per rispondere a clienti e cittadini. Scegliere bene significa guardare oltre le funzioni dimostrate in presentazione e porre al fornitore le domande che contano.

Ecco una traccia, da adattare alle dimensioni dell'organizzazione e all'importanza dell'uso.

1. I dati

• Quali dati inseriamo o rendiamo accessibili allo strumento?
• Vengono usati per addestrare o migliorare i modelli del fornitore o di terzi? Si può escluderlo per contratto?
• Dove vengono conservati e trattati? In quali Paesi?
• Per quanto tempo restano conservati prompt, documenti e risposte? Possiamo cancellarli?
• Chi, presso il fornitore, può accedervi e in quali casi?
• Il fornitore agisce come responsabile del trattamento ai sensi del GDPR? Fornisce l'accordo previsto?

2. La sicurezza

• Quali misure proteggono i dati: cifratura, controllo degli accessi, separazione tra clienti?
• Il servizio supporta l'accesso con gli account dell'organizzazione e l'autenticazione a più fattori?
• Possiamo gestire centralmente utenti, permessi e funzioni attivabili?
• Esistono registri delle attività consultabili, per sapere chi ha fatto cosa?
• Il fornitore ha certificazioni o attestazioni di sicurezza riconosciute?
• Come e in quanto tempo comunica incidenti di sicurezza che ci riguardano?

3. Le integrazioni e le azioni

• A quali sistemi si collega lo strumento: posta, documenti, gestionali?
• Può solo leggere o anche agire, ad esempio inviare, modificare, cancellare?
• Possiamo limitare i permessi e richiedere una conferma umana per le azioni importanti?
• Come vengono gestiti i contenuti esterni che potrebbero contenere istruzioni malevole?

4. La qualità e la trasparenza

• Su quali modelli si basa lo strumento e chi li sviluppa?
• Indica le fonti delle risposte quando lavora su documenti?
• Come viene gestito il rischio di risposte inventate o errate?
• Il fornitore fornisce le informazioni necessarie per rispettare gli obblighi di trasparenza verso le persone e, se l'uso è ad alto rischio, quelli dell'AI Act?

5. Il contratto e l'uscita

• Cosa succede ai nostri dati se interrompiamo il servizio? Possiamo esportarli?
• Il fornitore può modificare unilateralmente le condizioni o il modello usato?
• Quali livelli di servizio e quale assistenza sono garantiti?
• Il costo è chiaro anche al crescere dell'utilizzo?

Chi coinvolgere

Una scelta di questo tipo non dovrebbe spettare a un solo ufficio. Conviene coinvolgere:

• chi userà lo strumento, per capire le esigenze reali;
• l'assistenza o la funzione di sicurezza informatica;
• il responsabile della protezione dei dati;
• l'ufficio legale o acquisti, per il contratto;
• nella PA, chi segue gli aspetti di procedura amministrativa e di accessibilità.

Partire in piccolo

Per strumenti nuovi, una fase di prova limitata, con pochi utenti, dati non riservati e obiettivi misurabili, permette di valutare il valore reale prima di estendere l'uso. E di scrivere la policy interna sulla base dell'esperienza, non delle promesse.

In sintesi

Lo strumento giusto non è quello con più funzioni, ma quello di cui si conoscono con precisione dati, sicurezza e limiti. Fare le domande prima di firmare costa poco; scoprire le risposte dopo può costare molto.