La necessità di una Governance per i sistemi di Intelligenza Artificiale.

Premessa

Come noto, l’intelligenza artificiale (IA) sta ridefinendo il nostro tempo: accelera l’innovazione, rivoluziona i mercati del lavoro, sfida i confini tra umano e macchina. Ma a fronte delle sue promesse, emergono interrogativi etici, ambientali e giuridici che rendono urgente un nuovo paradigma di governance. Non si tratta di scegliere tra libertà d’innovazione e regolazione restrittiva: è una falsa dicotomia. Serve un modello capace di adattarsi al ritmo della tecnologia, evitando che le regole inseguano l’innovazione.

Tra gli scenari riguardanti i rischi etici si annoverano, in prima battuta, i seguenti:

• Eccessiva raccolta o uso di dati personali
• Collegamenti o raffronti inappropriati o non autorizzati di dati personali
• Poca trasparenza-chiarezza, non considerazione dei diritti
• Riuso per finalità diverse dei dati personali senza la consapevolezza e/o il consenso degli interessati
• Difettosità di elaborazione o processo
• Conservazione immotivatamente prolungata dei dati personali
• Inesattezza o dequalificazione – mancato aggiornamento dei dati personali
• Re-identificazione dei soggetti interessati
• Sorveglianza ingiustificata o illegittima

I rischi di natura ambientale sono invece determinati dalla sempre maggiore necessità di dotarsi di data center che consumano spazio, energia ed acqua; tale situazione finisce per mettere sotto pressione reti elettriche, comunità locali e risorse naturali.

I rischi di natura giuridica sono diversi:

• Opacità degli algoritmi e dei sistemi
• Esclusività della decisione algoritmica
• Influenza o manipolazione informativa degli interessati
• Discriminazione algoritmica
• Allucinazione algoritmica
• Output illeciti
• Deepfake
• Raccomandazioni pericolose o violente – disallineamento etico rispetto ai valori umani
• Distorsione cognitiva
• Eccessiva dipendenza dalle tecnologie AI
• Contaminazione dati e prestazioni dei sistemi AI-poisoning

Il Modello di Governance Dinamica

La necessità di creare un Framework a sostegno di una corretta gestione dei sistemi si Intelligenza Artificiale è avvertita in più parti del Pianeta sia a livello politico che normativo e scientifico.

In quest’ultima orbita si situa il Modello di Governance Dinamica che è un framework flessibile per la governance delle organizzazioni, che consente adattamenti e modifiche alle circostanze mutevoli e alle nuove opportunità.

L’elaborato è il risultato di uno studio condotto a più mani dai ricercatori del Mossavar-Rahmani Center della Harvard Kennedy School.[1]

 Il testo enfatizza la reattività, il miglioramento continuo e i cicli di feedback per garantire che i metodi di governance rimangano efficaci. Questo approccio è particolarmente rilevante in settori come l’intelligenza artificiale, dove i rapidi progressi richiedono continui adeguamenti ai framework di governance.

Caratteristiche chiave di un Modello di Governance Dinamica sono:

Flessibilità: nel senso di capacità di adattare i framework di governance alle mutevoli condizioni e alle sfide emergenti.

Reattività: al fine di affrontare rapidamente nuove problematiche e opportunità.

Miglioramento continuo: in modo da valutare e perfezionare regolarmente le pratiche di governance.

Cicli di feedback: per raccogliere input dagli stakeholder e utilizzarli per indirizzare gli adattamenti.

Trasparenza e collaborazione: garantire una comunicazione aperta e la collaborazione tra gli stakeholder.

Equivalenza: al fine di distribuire equamente autorità e potere tra i membri.

Efficacia: in modo da evolvere e adattarsi continuamente ai contesti in evoluzione.

Esempi di governance dinamica in azione:

Governance dell’IA:

Lawfare descrive un modello di governance dinamica per l’IA come un’architettura indipendente dalle policy e non regolamentata, che include partnership pubblico-private per la definizione degli standard e un ecosistema basato sul mercato per l’audit e la conformità.

Governance dell’IA nella Pubblica Amministrazione:

Deloitte suggerisce che le agenzie governative dovrebbero integrare e adattare continuamente gli approcci di governance dell’IA per infondere pratiche di IA affidabili.

Sociocrazia:

Si tratta di un metodo organizzativo formale sviluppato da Gerard Endenburg, particolarmente adatto a situazioni in cui diversi gruppi di stakeholder sono ugualmente interessati da una decisione.

Governance dinamica del rischio:

Gartner spiega che la governance dinamica del rischio, che prevede la condivisione dei dati, la creazione di soluzioni digitali e l’automazione dei processi manuali, è statisticamente comprovata per promuovere comportamenti di gestione del rischio di alta qualità.

Vantaggi di un modello di governance dinamico:

Maggiore adattabilità: consente alle organizzazioni di adattarsi rapidamente alle circostanze mutevoli.

Migliore reattività: consente alle organizzazioni di affrontare le problematiche e le opportunità emergenti in modo più efficace.

Miglioramento continuo: facilita la valutazione e il perfezionamento continui delle pratiche di governance.

Maggiore trasparenza e collaborazione: promuove una comunicazione aperta e la collaborazione tra gli stakeholder.

Maggiore innovazione: incoraggia lo sviluppo di soluzioni nuove e innovative.

Maggiore impegno e partecipazione: coinvolge gli stakeholder nel processo di governance, portando a una maggiore partecipazione e impegno.

L’adozione accelerata dell’Intelligenza Artificiale segna un momento cruciale nel progresso tecnologico. L’IA sta rimodellando i settori industriali, ridefinendo i mercati del lavoro e stimolando riflessioni sociali critiche sull’intelligenza, il ragionamento e la diffusione delle informazioni. Se da un lato l’IA offre opportunità di crescita economica, dall’altro presenta anche rischi che devono essere gestiti per evitare esiti sociali e geopolitici negativi, rendendo più urgente che mai una governance efficace e trasparente.

Gli autori propongono un approccio di governance dinamico che unisce governo e industria, combinando al contempo la lungimiranza delle misure ex ante con l’adattabilità necessaria per rispondere ai progressi tecnologici. In abbinamento ai meccanismi ex post esistenti, il Modello di Governance Dinamica crea un quadro completo per promuovere la concorrenza, l’innovazione e la responsabilità. Rappresenta un quadro extra-regolamentare indipendente dalle politiche, che include un partenariato pubblico-privato per la definizione degli standard e un ecosistema basato sul mercato per l’audit e la conformità.

Il dibattito sulla regolamentazione della tecnologia è complesso. Alcuni sostengono che una regolamentazione più severa potrebbe ostacolare l’innovazione riducendo gli incentivi agli investimenti e all’imprenditorialità. Altri suggeriscono che una regolamentazione mirata potrebbe promuovere l’innovazione incentivando le aziende a concentrarsi sulla sicurezza. Queste prospettive divergenti non sono nuove. Possiamo imparare dal passato ripercorrendo la storia della regolamentazione e dell’innovazione.

 Secondo gli Autori, l’attuale dibattito sulla regolamentazione delle tecnologie digitali e, in particolare, dell’intelligenza artificiale non coglie il punto. Sebbene il dibattito sia spesso inquadrato come una scelta binaria tra regolamentare o meno, si tratta di una scelta errata. Dovremmo invece concentrarci su quale approccio normativo contribuirà a orientare l’innovazione in una direzione che le nostre norme sociali ritengano accettabile, senza soffocare creatività, competizione e imprenditorialità.

Tracciare un percorso futuro: introdurre un nuovo modello di governance

Come promuovere l’innovazione garantendo al contempo sicurezza, equità e benessere sociale? La risposta non sta in una scelta binaria tra regolamentazione e innovazione laissez-faire, ma in un approccio equilibrato: un modello dinamico in grado di evolversi con la tecnologia.

 Gli Autori propongono un nuovo modello: un quadro extra-normativo radicato nella collaborazione pubblico-privato, in cui la chiarezza normativa e i meccanismi di accountability sono sviluppati congiuntamente da governo e industria.

F

Il Modello di Governance Dinamica promuove un processo incrementale e iterativo. Anziché imporre regole rigide e uniformi, enfatizza un sistema reattivo di standard, audit e quadri di conformità che si adattano nel tempo. Il modello incoraggia l’innovazione sicura riducendo al minimo i rischi per la società, promuovendo un ambiente in cui la supervisione governativa integra le competenze del settore. Questo approccio riconosce che l’attuale ritmo più veloce dell’innovazione richiede un quadro normativo in grado di evolversi parallelamente ai progressi tecnologici.

Le triadi dell’ Intelligenza Artificiale

Una prima triade è quella che si concentra sui seguenti temi:

– algoritmi, dati e potenza di calcolo – evidenziandone il ruolo nel rapido progresso dell’IA.

Una seconda triade dell’IA prende in considerazione:

 – energia, territorio e lavoro.

. Questi risultati costituiscono il fondamento del modello di governance proposto.

Il quadro proposto per una governance dinamica consiste  nel delineare i tre componenti principali del modello di governance dinamica:

a. Partenariati pubblico-privati ​​per la creazione di standard di valutazione.

b. Una soluzione basata sul mercato per l’audit e la conformità.

c. Un sistema di responsabilità e obblighi definito dai legislatori, dalle agenzie esecutive esistenti e dai tribunali.

---

[1] Cfr. La governance a un bivio: l’intelligenza artificiale e il futuro dell’innovazione in America. Paulo Carvão, Slavina Ancheva, Yam Atir, Shaurya Jeloka, Brian Zhou. Il Dynamic Governance Model, proposto dal Mossavar-Rahmani Center della Harvard Kennedy School, punta a costruire un ecosistema regolatorio “extra-regolamentare” dove industria e istituzioni collaborano per definire standard, audit e responsabilità condivise. Un approccio che integra misure ex-ante flessibili e strumenti ex-post di accountability, con l’obiettivo di stimolare l’innovazione senza rinunciare a sicurezza e trasparenza. Per un alettura completa del testo si rinvia al seguente link: https://www.linkedin.com/posts/ente-nazionale-per-l-intelligenza-artificiale-e-n-i-a_governance-at-a-crossroads-activity-7319818634342637568-TAoS/?utm_source=share&utm_medium=member_android&rcm=ACoAACKD4yEB1rBiVdoFXVFiRv88MQxzT6j82hc