le Linee guida AGID per l’adozione dell’intelligenza artificiale nella pubblica amministrazione

Premessa

Fino al 20 marzo sono in consultazione pubblica le Linee Guida per l’adozione dell’Intelligenza Artificiale nella Pubblica Amministrazione, adottate con la Determinazione n.17/2025.

Previste dal Piano Triennale per l’Informatica nella Pubblica Amministrazione 2024-2026, le Linee Guida di AgID sull’adozione, l’acquisto e lo sviluppo di sistemi di IA nella Pubblica Amministrazione saranno emanate seguendo l’iter previsto all’articolo 71 del Codice dell’Amministrazione Digitale (CAD). Quelle in consultazione riguardano, nello specifico, le modalità di adozione dei sistemi di Intelligenza Artificiale, con particolare riferimento agli aspetti di conformità normativa e di impatto organizzativo.

Considerata la velocità dell’innovazione, le Linee Guida devono garantire un adattamento costante ai cambiamenti imposti dalla rivoluzione digitale e supportare le amministrazioni; di qui la scelta di corredare il documento di allegati chiamati “strumenti” i cui contenuti potranno essere aggiornati agevolmente.

Attraverso la consultazione pubblica tutti gli interessati possono avanzare proposte di revisioni, modifiche e/o integrazioni al fine di migliorare il testo delle linee guida sia in termini prettamente editoriali, che, soprattutto, tecnici e di contenuto, in modo da garantire una loro più efficace implementazione da parte dei destinatari.

Ambito di applicazione

1.1. ambito soggettivo

Le presenti linee guida per l’adozione di intelligenza artificiale nella pubblica amministrazione (di seguito linee guida) sono rivolte ai soggetti di cui all’articolo 2, comma 2, del cad. tali soggetti sono indicati nel documento con l’acronimo PA.

1.2. ambito oggettivo

le presenti linee guida concernono le modalità di adozione dei sistemi di intelligenza artificiale con particolare riferimento agli aspetti di conformità normativa e di impatto organizzativo.

Principi per l’adozione dell’IA nella pubblica amministrazione

• automatizzare attività semplici e ripetitive di ricerca e analisi delle informazioni, liberando tempo di lavoro per attività a maggior valore;

• aumentare le capacità predittive, migliorando il processo decisionale basato sui dati;

• supportare la personalizzazione dei servizi incentrata sull’utente, aumentando l’efficacia, l’efficienza e la tempestività dei servizi pubblici anche attraverso meccanismi di proattività;

• promuovere l’innovazione dei servizi pubblici e dei processi amministrativi. le PA adottano i sistemi di IA applicando i seguenti principi: conformità normativa. le PA adottano i sistemi di IA nel pieno rispetto delle normative nazionali e dell’unione europea, assicurando l’aderenza al quadro legislativo vigente. le PA monitorano l’evoluzione normativa e aggiornano costantemente i propri sistemi per assicurarne la conformità alle disposizioni vigenti.

Rispetto dei valori fondamentali dell’UE.

Le PA adottano i sistemi di ia garantendo i principi definiti dalla carta dei diritti fondamentali dell’unione europea. p.3 gestione del rischio. le PA adottano adeguate politiche di gestione del rischio conducendo un’analisi approfondita dei rischi associati all’impiego di sistemi di IA, al fine di prevenire violazioni dei diritti fondamentali o altri danni rilevanti. p.4 protezione dei dati personali. le PA adottano i sistemi di IA nel rispetto delle norme unionali e nazionali vigenti in materia di protezione dei dati personali, garantendo elevata qualità e integrità dei dati stessi (cfr. cap. 10).

Etica e inclusione

Responsabilità.

Le PA adottano l’IA come strumento di supporto all’attività umana consapevoli che la responsabilità ultima delle decisioni adottate, in modo automatico o supervisionato, dai sistemi di ia rimane in capo alla PA.

Le PA identificano chiaramente le responsabilità di tutti gli attori coinvolti nel ciclo di vita dei sistemi di ia.

Accessibilità, inclusività, non discriminazione.

Le PA assicurano un trattamento equo per tutti i soggetti e gruppi coinvolti nell’adozione dell’ IA, promuovendo la parità di accesso, l’uguaglianza di genere e la diversità culturale.

Le PA adottano misure preventive per evitare la riproduzione o l’amplificazione di bias presenti nella società.

Trasparenza.

Le PA adottano sistemi di ai garantendo la trasparenza e comprensibilità delle loro decisioni e del funzionamento. le PA garantiscono una adeguata spiegabilità dei risultati, rendendo comprensibili le motivazioni che supportano le decisioni e le azioni intraprese dai sistemi di IA. p.8 informazione. le PA informano gli utenti sull’interazione con sistemi di IA, rendendoli consapevoli delle capacità e dei limiti di tali sistemi.

Qualità e affidabilità dei sistemi di IA

Qualità dei dati. Le PA adottano sistemi di IA garantendo una gestione etica, trasparente e conforme dei dati. questo include l’utilizzo di dati di qualità elevata, affidabili e aggiornati, la definizione di politiche chiare per l’accesso, l’uso e la conservazione dei dati, l’adozione di misure tecniche e organizzative per tutelare l’integrità e la sicurezza dei dati istituzionali, assicurando che i dati siano gestiti in modo sostenibile e responsabile. p.10 affidabilità.

Le PA garantiscono che i risultati e le decisioni prodotte dai sistemi di IA utilizzati siano affidabili e coerenti con gli obiettivi prefissati. questo include il monitoraggio continuo delle prestazioni per identificare e correggere eventuali errori o deviazioni dai parametri stabiliti.

Robustezza.

Le PA assicurano la robustezza dei sistemi di IA, garantendo che essi siano in grado di operare correttamente anche in condizioni avverse o in presenza di guasti. la robustezza include la capacità di mantenere le prestazioni desiderate nonostante imprevisti, errori nei dati o problemi tecnici.

Sicurezza cibernetica.

Le PA garantiscono la sicurezza cibernetica dei sistemi di IA, prevenendo tentativi di alterazione, compromissione o uso illecito da parte di terzi. questo comprende l’adozione di misure di protezione adeguate a salvaguardare l’integrità, la disponibilità e la riservatezza dei dati e dei processi gestiti dai sistemi di IA.

Supervisione umana.

Le PA garantiscono un livello adeguato di supervisione umana dei sistemi di IA. ai fini della supervisione umana, le PA assicurano che i sistemi di IA siano progettati e implementati in modo tale da consentirne la verifica, correzione o sostituzione da parte di personale umano.

Registrazioni (logging).

Le PA adottano sistemi di IA dotati di adeguati meccanismi di registrazione necessari a tracciare e conservare nel tempo le operazioni svolte.

Adozione di standard tecnici.

Le PA tengono in debita considerazione le norme tecniche definite a livello nazionale, europeo e internazionale al fine di garantire l’interoperabilità, la manutenibilità, la sicurezza e la conformità dei sistemi di IA alla normativa vigente.

Innovazione e sostenibilità

Efficienza e qualità dei servizi.

Le PA adottano l’IA per incrementare l’efficienza operativa e migliorare la qualità dei servizi destinati a cittadini e imprese. le PA utilizzano l’ IA per automatizzare i compiti ripetitivi connessi ai servizi istituzionali e al funzionamento dell’apparato amministrativo, favorendo l’implementazione di soluzioni innovative e proattive che semplifichino l’accesso ai servizi e ne migliorino l’efficienza complessiva.

Innovazione e miglioramento continuo.

Le PA adottano un approccio all’ IA orientato all’innovazione e al miglioramento continuo, al fine di ottimizzare i processi amministrativi e la qualità dei servizi offerti a cittadini e imprese.

Le PA mantengono rapporti di collaborazione con altre PA, enti di ricerca, università e imprese per sperimentare e integrare soluzioni tecnologiche basate sull’ IA, creando un ecosistema favorevole all’innovazione e all’adozione di tecnologie digitali. p.18 sostenibilità ambientale.

Le PA adottano sistemi di IA secondo un approccio sostenibile, attento alla tutela ambientale e in linea con i principi di sostenibilità energetica.

Formazione e organizzazione.

Formazione e sviluppo delle competenze.

Le PA investono nella formazione del proprio personale per garantire le competenze necessarie a utilizzare, gestire e sviluppare sistemi di IA in modo efficace e responsabile.

Le PA promuovono iniziative di alfabetizzazione digitale rivolte a cittadini e imprese, al fine di favorire una comprensione diffusa delle opportunità e delle implicazioni dell’IA, assicurando che l’adozione dell’IA nei servizi pubblici avvenga in modo inclusivo e consapevole.

Rafforzamento dell’organizzazione e delle infrastrutture.

Le PA, nell’adozione di sistemi di IA, ottimizzano il proprio assetto organizzativo e le proprie infrastrutture tecnologiche per agevolare il processo di trasformazione digitale e migliorare i livelli di sicurezza e resilienza. per i sistemi IA classificati ad alto rischio, i principi sopra enunciati sono rafforzati da specifici requisiti definiti dall’ai act.

Strategia per l’ IA

La PA deve sviluppare una strategia per l’ IA coerente con il proprio contesto e allineata alla propria missione in termini di funzione amministrativa, giurisdizione e ambiti operativi specifici. 

Le PA possono definire una strategia comune in base alle proprie caratteristiche e tipologia (ad esempio comuni o università).

La strategia deve contenere gli obiettivi dell’utilizzo dell IA (e le azioni per conseguirli), promuovendo un approccio condiviso e collaborativo che coinvolga tutte le funzioni della PA. le PA includono nella strategia per l’ IA le azioni per:

• migliorare la qualità dei dati, ivi comprese le basi documentali;

• migliorare le competenze del personale interno in materia di IA e di protezione dei dati personali coinvolti;

• individuare i casi d’uso che possono apportare maggiore beneficio;

• valutare le esperienze e sperimentazioni già effettuate da altre PA;

• avviare sperimentazioni, anche in forma associata con altre PA, partendo dai casi d’uso di minore complessità (quick win);

• avviare collaborazioni con altre PA per la sperimentazione e successivamente l’adozione, acquisto e sviluppo dei sistemi di IA in forma associata. la strategia per l’ IA deve essere coerente con la strategia definita nel PIAO, la strategia sui dati e il piano triennale per l’informatica nella pubblica amministrazione.

Ciò in modo da delineare una strategia completa e coerente con la politica complessiva sulle tecnologie della PA, che coinvolga anche l’eventuale territorio di riferimento.

La PA deve implementare la propria strategia dell’IA affidandone il coordinamento, unitamente alla strategia sui dati, al responsabile per la transizione al digitale (rtd) e al suo ufficio (utd), come previsto dal piano triennale per l’informatica nella PA 2024-2026, coinvolgendo altresì il responsabile della protezione dei dati (rpd).