Non si tratta della novità, ma di gestire la novità.

Eh sì, perché il dipendente pubblico sta diventando ingordo nell’uso della IA: una lettera, un’estrapolazione, una statistica, un procedimento istruttorio.

Come farlo al meglio? Cerchiamo di capire.

Intanto evitiamo i rischi in cui incorrono i dipendenti pubblici:

a) automation bias - ovvero la tendenza umana a fidarsi eccessivamente dei sistemi automatizzati e dei suggerimenti generati da algoritmi o intelligenze artificiali, preferendoli spesso al proprio giudizio critico o a informazioni contrarie – data l’età media elevata dei dipendenti, oppure a causa dell’insufficiente presenza di figure professionali in grado di gestire l’utilizzo delle nuove tecnologie, la casistica non è trascurabile. L’umano finisce per essere talmente coinvolto nell’interazione con la macchina, da affidarsi completamente ai suoi input istruttori, senza fare sforzi interpretativi o valutazioni ulteriori: l’art. 14 del Regolamento UE 2024/1689 parla di “pigrizia cognitiva” e si capisce. Lo siamo anche con i social e con le smart TV ecc ecc Lo siamo nel nostro privato e lo siamo nel pubblico.

b) usare la IA senza previa autorizzazione. L’uso di GPT (Generative Pre-trained Transformer) come il modello Chat GPT sviluppato da OpenAI è addestrato su vasti insiemi di dati testuali per comprendere e rispondere a domande, generare contenuti, riassumere informazioni e interagire con altri utenti. Spesso accade che un dipendente utilizzi di propria iniziativa sistemi di IA per migliorare la propria attività lavorativa, ma senza che ciò sia consentito dall’amministrazione di appartenenza. Potrebbe essere un comportamento che rende più efficiente il procedimento amministrativo, ma potrebbe anche comportare rischi per l’amministrazione, primo fra tutti la sicurezza dei dati (violazione di segreti o della privacy)

 QUINDI AFFRONTIAMO il tema della DISCREZIONALITÀ AMMINISTRATIVA in chiave ANTROPOCENTRICA: l’uomo al centro, alla fine è l’uomo che decide. A parte, ovviamente, che siano superati i rischi sopra descritti alle lettere a) e b).

Vige il principio della NON ESCLUSIVITÀ della DECISIONE ALGORITMICA e della PARTECIPAZIONE degli interessati alla FORMAZIONE DI TALE DECISIONE: non dobbiamo soffrire di pigrizia cognitiva. E in un certo senso, non possiamo fidarci ciecamente della IA, per proteggere noi e gli altri.

Il controllo umano si rapporta a 2 profili importanti nel processo decisionale: DISCREZIONALITÀ e OPPORTUNITÀ del PROVVEDIMENTO AMMINISTRATIVO, considerando il lavoro della IA solo come FASE ISTRUTTORIA e non come fase DECISIONALE, seppur di SUPPORTO alla DECISIONE.

Il responsabile del procedimento sarà tenuto infatti a rinnovare personalmente la valutazione o, quanto meno, a non considerarla manifestamente infondata. 

In caso di istruttoria positiva, il funzionario può redigere e firmare il provvedimento finale.

Ma, in caso di istruttoria negativa fatta dalla macchina (IA), deve fermarsi e:

  1. rivedere l’istruttoria al fine di motivare diversamente e renderla positiva
  2. considearla affidabile ed estendere la PARTECIPAZIONE al procedimento per le controdeduzioni ai sensi dell’art. 10-bis della legge n. 241/1990, non coincidendo la decisione suggerita dalla IA con la motivazione del provvedimento finale; in tal caso anche gli interessati entrano a far parte della riserva di umanità (sorveglianza umana) nel valutare la soluzione prospettata dalla IA.

SAREBBE BUONA PRASSI in quanto amministrazione procedente, e diversi enti già lo fanno, di rappresentare agli interessati che la procedura è svolta in modo automatizzato e che a tal fine scattano comunque le tutele del’art. 10-bis, garantendo il contraddittorio procedimentale sulla “proposta di provvedimento” elaborata dal sistema di IA.

SCENDIAMO ANCORA PIÙ NEL DETTAGLIO.

Dottrina e Giurisprudenza concentrano l’attenzione sul tipo di attività DELEGABILE alla IA in grado di produrre valutazioni discrezionali all’interno di un procedimento amministrativo disciplinato dalla L. 241/1990, compresa, per l’appunto, la partecipazione al procedimento.

Assistiamo a due casistiche.

  1. la IA è addestrata (ex ante) su una serie di valutazioni prevedibili con residui margini di discrezionalità in quanto progettata per operare la scelta tra più soluzioni alternative, tutte conformi al paradigma normativo e ai principi di logicità e ragionevolezza (ipotesi di attività vincolata)
  2. la IA è addestrata con il machine learning, con grandi margini di discrezionalità, in quanto le soluzioni prospettate non sono tutte prevedibili perché si realizza una potenziale estensione dell’ambito di applicazione della decisione algoritmica, non più circoscritta alle ipotesi di attività vincolata.

Escludendo il punto 2) in quanto troppo rischioso per la PA, riguardo al punto 1) c’è piena condivisione. La Giurisprudenza conferma che le decisioni amministrative algoritmiche non sono vietate nemmeno quando implicano discrezionalità, ma la discrezionalità viene confinata nel momento della progettazione e configurazione dell'algoritmo (ex ante): il nostro punto 1).

Anche per AGID l’uso della IA è legittimo solo per atti vincolati in cui l'algoritmo assiste o prende decisioni discrezionali, a condizione che l'intero procedimento sia trasparente, responsabile e supervisionato da un operatore umano.

Sorge infine una interessante riflessione: si può ancora parlare di discrezionalità amministrativa se si pongono a monte delle soluzioni tutte possibili e legittime? O non è piuttosto una discrezionalità tecnica in quanto si traduce, in fondo in una formula algoritmica?

Per fare “fusion” potremmo immaginare un particolare tipo di discrezionalità che dottrina e giurisprudenza definiscono MISTA in quanto si caratterizza sia per elementi di discrezionalità amministrativa che tecnica.

DUE TASSELLI FINALI

  • Il CODICE DEL PROCESSO AMMINISTRATIVO, approvato con Decreto Legislativo 2 luglio 2010, n. 104, che disciplina in modo organico il processo amministrativo e l’esercizio della tutela giurisdizionale davanti ai giudici amministrativi, aggiornato ai “tempi moderni”, prevede all’art. 13 biso che “le decisioni automatizzate sono consentite, ma non devono sostituire interamente la discrezionalità umana in contesti complessi”
  • IL REGOLAMENTO EU 2024/1689 entrato in vigore nel 2025 prevede il diritto dell'interessato a non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato, e classifica i sistemi di IA nella PA come ad "alto rischio", richiedendo severi requisiti di qualità dei dati, trasparenza, documentazione e sorveglianza umana.

Mi verrebbe da dire “fidarsi è bene, non fidarsi è meglio”.