Il principio di riserva di umanità e l’intelligenza artificiale come supporto alle decisioni della pubblica amministrazione nel settore dei contratti pubblici

lentepubblica.it

L’entrata in vigore dell’AI Act e i più recenti orientamenti giurisprudenziali ridefiniscono il ruolo dell’intelligenza artificiale nei contratti pubblici, confermando la centralità della supervisione umana attraverso il principio di riserva di umanità.

Abstract. Il presente articolo ha lo scopo di eseguire una ricognizione del fondamento costituzionale e l’evoluzione giurisprudenziale del principio di riserva di umanità nell’azione amministrativa automatizzata, con specifica attenzione al settore dei contratti pubblici. Muovendo dall’art. 30 del d.lgs. n. 36/2023 e analizzando funditus la recente pronuncia del TAR Marche n. 758/2026 — prima decisione che si confronta con l’uso di sistemi di IA generativa nella redazione di atti di gara — l’indagine inquadra l’intelligenza artificiale quale strumento di supporto alla decisione, ne individua i limiti di legittimità alla luce dell’art. 14 della l. n. 132/2025 e del Reg. (UE) 2024/1689, e ne segnala i principali profili etici e le questioni interpretative aperte, tra cui la controversa ammissibilità di una sorveglianza umana limitata alla sola decisione preliminare sull’impiego della procedura automatizzata.

1. Premessa

L’impiego dell’intelligenza artificiale (IA) nell’attività amministrativa ha cessato da tempo di essere una prospettiva teorica per divenire una realtà operativa, particolarmente avvertita nel settore dei contratti pubblici, dove l’ingente mole di dati, la serialità di numerose operazioni e le esigenze di speditezza rendono l’automazione un’opzione di indubbia utilità sul piano dell’efficienza e dell’economicità dell’azione amministrativa. A fronte di tale evoluzione è stato elaborato il principio della cosiddetta riserva di umanità, quale presidio della centralità della persona di fronte all’avanzare della decisione algoritmica[1].

Il tema ha conosciuto rinnovata attualità per effetto convergente di due fattori. Sul versante normativo, l’approvazione della prima legge nazionale di sistema in materia — la l. 23 settembre 2025, n. 132 — ha innalzato a regola generale il principio secondo cui l’IA opera «in funzione strumentale e di supporto» all’attività provvedimentale. Sul versante giurisprudenziale, il TAR Marche, con la sentenza n. 758/2026, ha reso la prima pronuncia che si confronta in modo diretto con l’impiego di sistemi di IA generativa nella redazione di atti del procedimento di gara, offrendo all’interprete preziose indicazioni sui confini di ammissibilità dello strumento.

Il presente contributo si propone di ricostruire, in chiave ricognitiva e dichiaratamente equilibrata, il fondamento e l’evoluzione del principio, con particolare attenzione al comparto degli appalti, e di esaminare funditus la richiamata pronuncia, segnalando — secondo un metodo problematico — le questioni interpretative tuttora aperte e i profili etici sottesi. L’indagine non si propone di prendere posizione sulle opzioni di politica del diritto, bensì di fornire al funzionario e al dirigente pubblico una mappa ragionata dello stato dell’arte.

2. Il fondamento del principio: radici costituzionali e sovranazionali

Il principio di riserva di umanità — posto in relazione anche con la nozione eurounitaria di human oversight — delinea l’esigenza che, anche nei procedimenti decisionali automatizzati, permanga un intervento e un controllo umano effettivo e reale, non meramente formale o di ratifica. In termini essenziali, esso si articola in tre corollari: il divieto di «decisioni in bianco», ossia di integrale delega del potere decisionale alla macchina; la necessità di un giudizio critico umano capace di correggere l’automatismo nelle situazioni particolari; e l’ancoraggio costituzionale alla centralità della persona e all’imparzialità dell’azione amministrativa.

Pur in assenza di un’espressa enunciazione costituzionale, il principio è stato ricondotto dagli esperti del diritto agli artt. 2 e 97, comma 3, della Costituzione: il primo, in quanto pone i diritti inviolabili e la dignità della persona a fondamento dell’ordinamento; il secondo, in quanto, nel determinare «le sfere di competenza, le attribuzioni e le responsabilità proprie dei funzionari», presuppone l’imputabilità della decisione amministrativa a un soggetto umano[2]. A tali riferimenti si aggiungono, in chiave sistematica, anche il principio di buon andamento e imparzialità (art. 97, comma 2, Cost.). Non è privo di significato che l’idea della centralità della persona, lungi dall’essere una mera petizione di principio, costituisca il portato diretto del compromesso costituente tra le grandi tradizioni politiche e culturali del Paese[3].

Sul versante sovranazionale, il principio trova riscontro nell’art. 1 della Carta dei diritti fondamentali dell’Unione europea (dignità umana), nell’art. 6 CEDU — letto nel senso che l’amministrazione conservi «un volto umano» — e, in modo più puntuale, nell’art. 22 e nel considerando 71 del Regolamento (UE) 2016/679 (GDPR), che riconoscono all’interessato il diritto di non essere sottoposto a decisioni basate unicamente sul trattamento automatizzato[4].

La più compiuta formulazione del principio spetta alla dottrina che ravvisa nella coscienza e nella capacità di giudizio morale il tratto irriducibile dell’umano, non surrogabile artificialmente; da questo presupposto deriva l’inammissibilità di sottoporre un soggetto morale al giudizio di un’entità che ne sia priva. In tale prospettiva, l’IA presenta tre punti critici ineliminabili: la limitata tracciabilità dei processi decisionali (segnatamente nei sistemi a apprendimento profondo); le inedite criticità in tema di protezione dei dati personali connesse alla gestione dei big data; e l’esposizione al rischio di bias cognitivi non dissimili da quelli umani.

3. L’evoluzione giurisprudenziale del rapporto tra potere amministrativo e algoritmo

3.1. L’impostazione restrittiva

La giurisprudenza amministrativa ha dapprima assunto un atteggiamento di chiusura. Investito di una controversia relativa all’assegnazione, integralmente affidata a un «impersonale algoritmo», dei docenti alle sedi scolastiche, il TAR Lazio ha affermato che le procedure informatiche, «finanche ove pervengano al loro maggior grado di precisione e addirittura alla perfezione», non possono mai soppiantare l’attività cognitiva, acquisitiva e di giudizio che solo un’istruttoria affidata a un funzionario persona fisica è in grado di svolgere; all’informatica va perciò riservato un ruolo «meramente ausiliario» e «giammai dominante o surrogatorio dell’attività dell’uomo», dovendo il funzionario restare il dominus del procedimento[5].

3.2. L’apertura per l’attività vincolata

Con la sentenza n. 2270/2019 il Consiglio di Stato ha tracciato per la prima volta i confini tra potere pubblico e algoritmo, ammettendo la decisione automatizzata nell’ambito dell’attività vincolata e seriale, in coerenza con i canoni di efficienza ed economicità di cui all’art. 1 della l. n. 241/1990 e con il principio di buon andamento (art. 97 Cost.). La regola tecnica che governa l’algoritmo, si è precisato, «resta pur sempre una regola amministrativa generale, costruita dall’uomo e non dalla macchina», sicché la discrezionalità, se non può essere demandata al software, va rintracciata «a monte», nel momento dell’elaborazione dello strumento digitale.

Da qui la qualificazione dell’algoritmo come «atto amministrativo informatico», con un duplice corollario: la piena conoscibilità del modulo — secondo una declinazione rafforzata del principio di trasparenza, estesa agli autori, al procedimento di elaborazione e ai dati selezionati come rilevanti — e la sua integrale sindacabilità da parte del giudice amministrativo, quale diretta declinazione del diritto di difesa[6].

In tale qualificazione la dottrina ha colto la chiave per estendere all’algoritmo lo statuto e il regime dei vizi dell’atto amministrativo, dai rimedi caducatori a quelli conservativi, ivi compreso il regime dei vizi non invalidanti di cui all’art. 21-octies, comma 2, della l. n. 241/1990[7].

3.3. L’estensione alla discrezionalità e i tre principi</h5>

Con le sentenze gemelle nn. 8472, 8473 e 8474 del 2019 la Sezione VI ha compiuto il passo decisivo, estendendo l’ammissibilità dello strumento anche all’attività discrezionale: non vi sono, si è osservato, ragioni di principio per limitarne l’impiego all’attività vincolata, essendo entrambe espressione di attività autoritativa volta al perseguimento dell’interesse pubblico.

Il Collegio ha enucleato dal diritto sovranazionale tre principi cardine: a) il principio di conoscibilità e comprensibilità, per cui ognuno ha diritto a conoscere l’esistenza di processi decisionali automatizzati che lo riguardino e a ricevere «informazioni significative sulla logica utilizzata»; b) il principio di non esclusività della decisione algoritmica, per cui deve «comunque esistere nel processo decisionale un contributo umano capace di controllare, validare ovvero smentire la decisione automatica»; c) il principio di non discriminazione algoritmica, desunto dal considerando 71 del GDPR, che impone misure tecniche e organizzative idonee a rettificare le inesattezze dei dati e a impedire effetti discriminatori[8].

Tali approdi sono stati confermati da successive pronunce (CdS nn. 881/2020 e 1206/2021), che hanno ricondotto l’algoritmo a «modulo organizzativo» e «strumento procedimentale ed istruttorio», soggetto alle verifiche tipiche di ogni procedimento, e hanno affermato l’irrilevanza dell’invocata riservatezza industriale dei software: le imprese produttrici, ponendo i propri strumenti al servizio del potere autoritativo, ne devono accettare le conseguenze in termini di necessaria trasparenza. Resta fermo che la «caratterizzazione multidisciplinare» dell’algoritmo non esime dall’obbligo di tradurre la «formula tecnica» nella «regola giuridica» ad essa sottesa, rendendola leggibile e comprensibile per il cittadino e per il giudice[9].

4. La codificazione del principio nel Codice dei contratti pubblici: l’art. 30 del d.lgs. n. 36/2023

I principi di matrice pretoria hanno trovato sedes materiae nell’art. 30 del d.lgs. 31 marzo 2023, n. 36, rubricato «Uso di procedure automatizzate nel ciclo di vita dei contratti pubblici», collocato significativamente tra i principi della digitalizzazione. La norma muove da un favor per l’automazione: «per migliorare l’efficienza le stazioni appaltanti e gli enti concedenti provvedono, ove possibile, ad automatizzare le proprie attività ricorrendo a soluzioni tecnologiche, ivi incluse l’intelligenza artificiale e le tecnologie di registri distribuiti» (comma 1)[10].

Il comma 2 presidia la dimensione della conoscibilità a monte: in fase di acquisto o sviluppo delle soluzioni, le stazioni appaltanti «assicurano la disponibilità del codice sorgente, della relativa documentazione, nonché di ogni altro elemento utile a comprenderne le logiche di funzionamento» e introducono clausole volte a garantire l’assistenza e la manutenzione necessarie alla correzione degli errori e degli effetti indesiderati. Si tratta della traduzione operativa del principio di trasparenza rafforzata già affermato dal Consiglio di Stato, in coerenza con il Codice dell’amministrazione digitale[11].

Il cuore della disciplina è nel comma 3, che recepisce testualmente la triade elaborata dalla giurisprudenza: le decisioni assunte mediante automazione rispettano i principi di «conoscibilità e comprensibilità», di «non esclusività della decisione algoritmica» — «per cui comunque esiste nel processo decisionale un contributo umano capace di controllare, validare ovvero smentire la decisione automatizzata» — e di «non discriminazione algoritmica». Il comma 4 impone l’adozione di ogni misura idonea a rettificare i fattori che comportano inesattezze dei dati, a minimizzare il rischio di errori e a impedire effetti discriminatori in danno di persone fisiche; il comma 5 prescrive infine la pubblicazione, in «Amministrazione trasparente», dell’elenco delle soluzioni tecnologiche utilizzate.

Ne risulta un assetto in cui la riserva di umanità non opera quale divieto di automazione, bensì quale insieme di garanzie procedimentali: la decisione può avvalersi dell’IA, ma deve restare conoscibile, non esclusivamente algoritmica e imputabile a un responsabile umano — segnatamente, nel procedimento di gara, al responsabile unico del progetto (RUP), figura cui il Codice affida la cura unitaria dell’istruttoria e la proposta provvedimentale.

5. Il caso TAR Marche n. 758/2026

5.1. La vicenda

La prima applicazione giurisprudenziale espressa del principio nel settore degli appalti si deve al TAR Marche, che ha definito con sentenza in forma semplificata (art. 60 c.p.a.) l’impugnazione dell’esclusione di un operatore economico da una procedura negoziata senza bando indetta dall’Agenzia del Demanio – Direzione Regionale Marche, avente ad oggetto i lavori di adeguamento sismico e rifunzionalizzazione, ad alloggi di servizio, di un immobile già sede di un comando della Guardia di Finanza. Avvalendosi dell’inversione delle fasi, la stazione appaltante aveva sottoposto l’aggiudicataria a verifica ex post, escludendola ai sensi dell’art. 98, comma 3, lett. c), del Codice per inaffidabilità, alla luce di tre risoluzioni contrattuali subìte nel 2023 da parte di altrettante amministrazioni[12].

5.2. Le censure della ricorrente

Con un unico, articolato motivo, la ricorrente deduceva la violazione, tra l’altro, degli artt. 1, 2, 10, 30, 95 e 98 del Codice e degli artt. 1 e 3 della l. n. 241/1990, oltre all’eccesso di potere per difetto di istruttoria. Quanto al merito, lamentava una valutazione atomistica e travisata delle tre vicende, due delle quali ancora sub iudice e una definita con transazione. Sul piano qui d’interesse, la società prospettava — con argomento di sicuro effetto — che la relazione del RUP recava richiami a precedenti giurisprudenziali «inesistenti o quantomeno inconferenti» e valutazioni «stereotipate», così lasciando supporre l’impiego «non dichiarato né adeguatamente controllato» di sistemi di IA, con conseguente violazione della «riserva di umanità» sancita dall’art. 30, commi 3 e 4, del Codice, e annullabilità (se non nullità) del provvedimento; chiedeva, in subordine, una verificazione o c.t.u. per accertare l’effettivo ricorso all’IA[13].

A sostegno, la ricorrente richiamava la giurisprudenza inaugurata nel 2019 (Cons. Stato nn. 2270 e 8472) e, soprattutto, la recente sentenza del TAR Lazio n. 1895/2026, secondo cui «nelle procedure automatizzate non può essere pretermessa la riserva di umanità», radicata negli artt. 3, 24 e 97 Cost., nella l. n. 241/1990 e nel Codice dell’amministrazione digitale[14].

5.3. La decisione del Collegio

Il Tribunale ha respinto integralmente il ricorso. Quanto alle censure ex art. 98, ha ribadito che ciascuna stazione appaltante valuta in piena autonomia l’affidabilità del concorrente, senza essere condizionata dalle determinazioni di altre amministrazioni, e che il giudizio non era atomistico né immotivato, vertendo su tre distinte risoluzioni e su elementi introdotti nel procedimento dalla stessa ricorrente; donde la conclusione che «non vi è stato quindi alcun automatismo», essendo l’esclusione frutto di una valutazione discrezionale. La stazione appaltante, ha precisato il Collegio, non è tenuta a sostituirsi al giudice civile nel vagliare il merito delle controversie sulle risoluzioni, ma solo a valutarne l’incidenza sull’affidabilità rispetto allo specifico appalto.

5.4. La nozione di decisione «completamente automatizzata» e l’analogia con l’attività forense

Sul nucleo relativo alla riserva di umanità, il Collegio ha ritenuto la censura «mal posta», non versandosi in presenza di una decisione «completamente automatizzata» — definita come l’atto risultante dalla «mera elaborazione di dati inseriti a sistema, senza alcun intervento umano» nelle fasi di input, elaborazione o decisione. Su questo punto la pronuncia svolge un’affermazione di notevole rilievo, e non priva di profili problematici: «secondo l’opinione dottrinale prevalente l’intervento umano potrebbe essere limitato anche solo alla fase della decisione preliminare circa l’utilizzo della procedura automatizzata», gravando sul deployer il solo obbligo di fornire «spiegazioni chiare e significative» ai sensi dell’art. 86 del Reg. (UE) 2024/1689 e dell’art. 30 del Codice[15].

Nella specie, ha osservato il Tribunale, non si era comunque in presenza di una decisione automatizzata, per un duplice ordine di ragioni: per un verso, la relazione del RUP non costituiva la decisione finale — riconducibile alla determinazione del direttore regionale dell’Agenzia, sul quale «ricade la responsabilità di verificare la correttezza degli atti del procedimento», sicché il recepimento della proposta vale come condivisione e l’atto resta «giuridicamente imputato al dirigente»; per altro verso, l’eventuale utilizzo dell’IA riguardava «solo una parte della motivazione», ossia il richiamo a principi generali affermati dalla giurisprudenza.

Particolarmente significativo, in chiave sistematica, è il passaggio in cui il Collegio relativizza il rilievo dei richiami giurisprudenziali erronei: non vigendo per gli atti amministrativi il principio dello stare decisis, il richiamo a precedenti «non conferisce all’atto alcuna patente di legittimità», così come la loro eventuale inesattezza non lo vizia di per sé; ciò che rileva è se i principi richiamati esistano effettivamente — e nella specie esistevano, come comprovato da una pluralità di pronunce[16].

Da qui la suggestiva analogia: il RUP che si fosse avvalso dell’IA avrebbe operato «alla stregua di un avvocato» che chieda al sistema di reperire i precedenti su un dato tema, secondo «una modalità nuova e moderna rispetto alla tradizionale ricerca cartacea», che «non incide sulla parte volitiva dell’atto»; del resto, anche nell’era del cartaceo non erano infrequenti richiami giurisprudenziali errati o selettivi. Le valutazioni di merito sulle condotte addebitate all’operatore, ha concluso il Collegio, «appartengono indubbiamente al funzionario»[17].

Se ne ricava un’affermazione di rilievo sistematico: la riserva di umanità non si traduce in un divieto di utilizzo dell’IA, ma in un presidio di responsabilità, trasparenza e controllo umano. L’IA è ammessa come supporto non vincolante, purché la decisione resti umana, motivata e verificabile, e purché l’uso dello strumento non investa la «parte volitiva» dell’atto. Resta, peraltro, una questione aperta — che è doveroso segnalare — l’apertura del Collegio verso una sorveglianza umana potenzialmente confinata alla sola «decisione preliminare» sull’impiego della procedura: soluzione che, se assolutizzata, rischierebbe di attenuare la portata del principio di non esclusività di cui all’art. 30, comma 3, lett. b), del Codice, e che andrà perciò verificata alla prova di procedimenti a più elevato tasso di discrezionalità.

6. Il nuovo quadro normativo: l’art. 14 della l. n. 132/2025 e l’AI Act

La l. n. 132/2025 ha elevato il principio a regola generale dell’azione amministrativa, in una cornice dichiaratamente antropocentrica (art. 1)[18]. L’art. 14 stabilisce che le pubbliche amministrazioni utilizzano l’IA «allo scopo di incrementare l’efficienza della propria attività, di ridurre i tempi di definizione dei procedimenti e di aumentare la qualità e la quantità dei servizi», assicurando «la conoscibilità del suo funzionamento e la tracciabilità del suo utilizzo» (comma 1). La disposizione centrale è il comma 2, a tenore del quale l’utilizzo dell’IA «avviene in funzione strumentale e di supporto all’attività provvedimentale, nel rispetto dell’autonomia e del potere decisionale della persona che resta l’unica responsabile dei provvedimenti e dei procedimenti in cui sia stata utilizzata l’intelligenza artificiale». Seguono l’obbligo di misure tecniche, organizzative e formative (comma 3) e la clausola di invarianza finanziaria (comma 4).

Si delinea così un rapporto di reciproca integrazione tra la disposizione generale (art. 14) e quella settoriale, anteriore e più analitica, dettata per i contratti pubblici (art. 30 del Codice): la prima fissa il principio dell’unicità della responsabilità umana, la seconda ne declina le garanzie procedimentali. Entrambe vanno interpretate e applicate «conformemente» al Reg. (UE) 2024/1689 (art. 1, comma 2, della legge), il quale, all’art. 14, impone la sorveglianza umana per i sistemi ad alto rischio e, all’art. 86, riconosce un «diritto alla spiegazione» dei processi decisionali automatizzati.

Sotto il profilo della tenuta sistematica, occorre tuttavia segnalare due questioni aperte. La prima attiene alla natura della disposizione: trattandosi di legge ordinaria redatta secondo la tecnica della normazione «per principi», parte della dottrina ne ha sottolineato la limitata vincolatività, configurandola più come indirizzo che come precetto puntuale, con conseguente possibilità di deroga ad opera di leggi successive. La seconda concerne il regime di invalidità: è prospettabile l’annullabilità del provvedimento che si dimostri frutto esclusivamente dell’operato dell’IA, per difetto di istruttoria e di motivazione e per eccesso di potere, mentre più controversa appare l’ipotesi della nullità, evocata dalla difesa nel giudizio marchigiano ma non accolta[19].

7. I profili etici

Accanto ai profili strettamente giuridici, il tema sollecita questioni etiche di rilievo, che ne costituiscono il sostrato e che il giurista non può ignorare. Possono enuclearsi almeno cinque ordini di problemi.

1. Opacità e tracciabilità. I moderni sistemi di apprendimento automatico (machine e deep learning) operano secondo percorsi logici che possono sfuggire, in parte, allo stesso sviluppatore: la sequenza di base è nota, ma l’itinerario seguito dall’elaboratore può rimanere «in ombra». Da qui l’esigenza, di matrice etica prima ancora che giuridica, di garantire la tracciabilità dei processi decisionali e di contrastare l’effetto «scatola nera», che il diritto traduce nei doveri di conoscibilità e di disponibilità del codice sorgente[20].
2. Bias e non discriminazione. All’apparente neutralità del calcolo si contrappone il rischio che la macchina riproduca e amplifichi le distorsioni cognitive insite nei dati di addestramento, con effetti discriminatori. L’aura di neutralità della decisione algoritmica — frutto, si è detto, di «asettici calcoli razionali» — può rivelarsi ingannevole. Il considerando 71 del GDPR e il comma 4 dell’art. 30 del Codice impongono perciò misure di rettifica e di minimizzazione del rischio di errore.
3. Deresponsabilizzazione del funzionario. L’automazione può indurre a delegare di fatto la decisione, ovvero ad attribuirne la paternità a «soggetti non umani», con effetti delegittimanti. A ciò si oppone il principio, di rango costituzionale (art. 28 Cost.), di imputabilità dell’atto all’amministrazione di provenienza: è il controllo umano «a monte» a responsabilizzare l’ente e a consentire l’imputazione della scelta. Significativamente, il TAR Marche ha ricondotto la responsabilità della decisione al dirigente che adotta il provvedimento finale, a prescindere dalle modalità di redazione della proposta istruttoria.
4. Dignità e calcolabilità del diritto. L’impiego dell’IA ripropone l’antico tema della «calcolabilità» del diritto. La decisione giuridica, in quanto discorso argomentativo e non meramente dimostrativo, conserva un margine di umana opinabilità che ne costituisce tratto essenziale: «se la forza della matematica è quella di non essere un’opinione, la forza del diritto è invece proprio quella di essere un’opinione». Il rischio di un appiattimento del pluralismo interpretativo — la tendenza, indotta dalla macchina, a ritenere che a un problema corrisponda un’unica soluzione — costituisce una preoccupazione di portata non solo tecnica, ma latamente democratica[21].
5. IA generativa e «allucinazioni». Il caso del TAR Marche illumina un rischio specifico dei modelli generativi: la produzione di contenuti formalmente plausibili ma falsi, come le citazioni giurisprudenziali inesistenti. Pur avendo il Collegio ridimensionato, nella specie, la portata viziante dell’errore — in quanto i principi richiamati esistevano e la valutazione di merito era rimasta umana — il dato impone al funzionario un dovere rafforzato di verifica delle fonti e dei dati, pena la dequotazione della motivazione a mera parvenza di legittimità. La «modalità nuova e moderna» di ricerca, per riprendere l’immagine del Tribunale, non esonera dal controllo del risultato[22].

8. Aspetti applicativi della disciplina e della governance dell’IA alla luce della proposta greca

La disciplina sin qui ricostruita solleva, anche sul piano applicativo, questioni che trascendono il singolo procedimento e investono la governance complessiva dell’IA. Una recente notizia di cronaca politica lo illustra con efficacia: nel maggio 2026 il Governo greco ha proposto una revisione costituzionale secondo cui «l’intelligenza artificiale serve la libertà dell’individuo e la prosperità della società, mitigandone i rischi e valorizzandone i benefici»[23]. La scelta di elevare la materia a rango costituzionale — significativamente, nel Paese che è culla della democrazia — sposta l’IA dal piano tecnico-strumentale a quello dei principi fondamentali e conferma che la riserva di umanità è parte di una più ampia questione di controllo democratico sul potere, pubblico e privato.

Da tale spunto si traggono alcune indicazioni di immediato rilievo pratico per l’amministrazione.

In primo luogo:

l’IA non può essere letta soltanto come leva di efficienza e produttività: quando entra in funzioni pubbliche sensibili — organizzazione del lavoro, servizi ai cittadini, supporto decisionale, attività di controllo e ispettive, sanità, welfare, fiscalità — essa incide sul rapporto tra amministrazione e cittadino, sull’esercizio del potere pubblico, sulla tutela dei diritti e sulla fiducia nelle istituzioni. La riserva di umanità e l’art. 14 della l. n. 132/2025 vanno perciò intesi non come adempimenti formali, ma come garanzie sostanziali di tale rapporto.

In secondo luogo:

la governance dell’IA non è meramente amministrativa: essa non si esaurisce in linee guida, scelte di procurement e policy tecniche, ma chiama in causa una cornice più alta di principi, garanzie e controllo. Sul piano operativo, ciò significa che la stessa decisione di adottare un sistema di IA costituisce un atto di governo dell’ente, da assumere in modo consapevole e tracciato — coerentemente con il rilievo, già emerso nella pronuncia marchigiana, attribuito alla «decisione preliminare» sull’impiego della procedura automatizzata.

In terzo luogo:

— ed è il profilo di maggiore concretezza per le stazioni appaltanti — viene in rilievo il potere delle piattaforme e la dipendenza dal fornitore. Come segnalato anche dall’analisi dell’agenzia AP richiamata nella notizia, i grandi fornitori tecnologici concentrano dati e capacità computazionale in misura tale da porre un problema di effettivo controllo pubblico.

Per l’amministrazione ciò si traduce in domande puntuali: chi controlla davvero il sistema? Chi ne definisce i limiti d’uso? Quanto dipende l’ente dal fornitore e quale margine di autonomia conserva?

Le prescrizioni dell’art. 30, commi 2 e 5, del Codice — disponibilità del codice sorgente e della documentazione, clausole di assistenza e manutenzione, pubblicità delle soluzioni adottate — costituiscono precisamente gli antidoti operativi al lock-in tecnologico e alla perdita di autonomia decisionale. Se ne ricava l’opportunità di presidiare contrattualmente, già negli atti di gara, profili quali la reversibilità del servizio, la portabilità dei dati, i livelli di servizio e l’accesso al codice e alle logiche di funzionamento.

Il caso greco, in conclusione, conferma che regolare l’IA nella pubblica amministrazione non è soltanto una questione di innovazione, ma anche di principi: efficienza e tutela dei diritti non sono termini alternativi, bensì da comporre. La sfida pratica per l’amministrazione è, in definitiva, governare lo strumento senza esserne governata.

9. Rilievi conclusivi e indicazioni operative

La ricognizione svolta consente di affermare che la riserva di umanità non si pone come ostacolo all’innovazione, ma come criterio di legittimità dell’azione amministrativa automatizzata. Lungo un arco quasi decennale, la giurisprudenza è passata da una chiusura pressoché totale (TAR Lazio, 2017-2019) a un’apertura governata da garanzie (Consiglio di Stato, 2019-2021), oggi recepita sul piano normativo dall’art. 30 del Codice e dall’art. 14 della l. n. 132/2025. L’IA è ammessa quale supporto alla decisione, a condizione che siano salvaguardati la conoscibilità del modulo, la non esclusività algoritmica e l’imputabilità umana del provvedimento.

Sul piano operativo, per le stazioni appaltanti — e segnatamente per gli uffici tecnici, per i lavori pubblici e per il RUP — possono trarsi alcune cautele:

1. assicurare una motivazione autonoma e non meramente apparente, idonea a dare conto dell’effettivo esercizio del giudizio umano sulle circostanze del caso concreto;
2. garantire la tracciabilità dell’utilizzo dell’IA e, ove esso incida sul contenuto dell’atto, darne contezza nel procedimento, anche in adempimento del «diritto alla spiegazione» di cui all’art. 86 del Reg. (UE) 2024/1689;

• verificare puntualmente le fonti e i dati di input, con specifico riguardo agli output dei sistemi generativi e al rischio di «allucinazioni»;

1. presidiare la conoscibilità (codice sorgente e logica di funzionamento) e gli obblighi di pubblicità ex art. 30, comma 5, del Codice;
2. essere consapevoli dei profili di invalidità — difetto di istruttoria e di motivazione, eccesso di potere, con eventuale rilievo dell’art. 21-octies della l. n. 241/1990 — connessi all’atto adottato in violazione del principio.

Restano, allo stato, alcune questioni interpretative aperte, che è doveroso segnalare. La prima è la natura di legge «per principi» dell’art. 14 della l. n. 132/2025, con i conseguenti dubbi di vincolatività. La seconda — di immediata rilevanza pratica — è la latitudine effettiva del controllo umano: l’apertura del TAR Marche verso una sorveglianza eventualmente limitata alla «decisione preliminare» sull’uso della procedura automatizzata, se da un lato valorizza la funzione servente dello strumento, dall’altro solleva il problema della sua compatibilità con il principio di non esclusività nei procedimenti a più marcata discrezionalità. La materia, in rapida evoluzione, richiederà ulteriori interventi di chiarificazione, normativi e giurisprudenziali; in attesa dei quali la riserva di umanità conserva la sua funzione essenziale: garantire che, dietro ogni provvedimento, vi sia sempre un uomo che decide e che ne risponde.

10. Bibliografia

2021. CRAWFORD, Né intelligente né artificiale. Il lato oscuro dell’IA, Il Mulino, Bologna, 2021.
2022. COLOMBAN, Automatizzazione delle procedure di gara e riserva di umanità, in Studio Legale Stefanelli & Stefanelli, 19 novembre 2024.

D.U. GALETTA – J.G. CORVALÁN, Intelligenza artificiale per una p.a. 4.0? Potenzialità, rischi e sfide della rivoluzione tecnologica in atto, in Federalismi.it, n. 3/2019.

2023. GALLONE, Riserva di umanità e funzioni amministrative, Cedam, Padova, 2023.
2024. MASSARI, Intelligenza artificiale e riserva di umanità nelle decisioni del RUP. Riflessioni a margine di TAR Marche, Sez. I, n. 758/2026, in Appalti & Contratti, 9 giugno 2026.
2025. PASQUALE, The Black Box Society. The Secret Algorithms That Control Money and Information, Harvard Univ. Press, Cambridge, 2015.
2026. PATRONI GRIFFI, La decisione robotica e il giudice amministrativo, in giustizia-amministrativa.it.
2027. PESCE, Il Consiglio di Stato ed il vizio della opacità dell’algoritmo tra diritto interno e diritto sovranazionale, in giustizia-amministrativa.it.

A.L. RUM, Il provvedimento amministrativo adottato mediante algoritmo: il ruolo dell’intelligenza artificiale nel processo decisionale della P.A., in ildirittoamministrativo.it.

2025. SALANITRO, Una prima lettura sull’impatto della legge sull’intelligenza artificiale nel diritto tributario, in Rivista telematica di diritto tributario, 9 ottobre 2025.

NOTE

[1]G. GALLONE, Riserva di umanità e funzioni amministrative, Cedam, Padova, 2023. La locuzione dialoga, sul piano eurounitario, con la nozione di human oversight (sorveglianza umana) di cui all’art. 14 del Reg. (UE) 2024/1689 (AI Act).

[2]Sul rilievo dell’art. 97, comma 3, Cost. quale base testuale del principio, in raccordo con l’art. 2 Cost. e con l’insostituibilità del giudice (artt. 101 ss. Cost.), G. SALANITRO, Una prima lettura sull’impatto della legge sull’intelligenza artificiale nel diritto tributario, in Riv. tel. dir. trib., 9 ottobre 2025.

[3]Per l’ampia ricostruzione delle radici costituzionali della centralità della persona, anche alla luce dei lavori dell’Assemblea costituente, G. GALLONE, op. cit., 41 ss.

[4]Art. 1 della Carta dei diritti fondamentali dell’Unione europea; art. 6 CEDU; art. 22 e considerando 71 del Reg. (UE) 2016/679; Raccomandazione UNESCO sull’etica dell’intelligenza artificiale, 24 novembre 2021, secondo cui i sistemi di IA «devono essere complementari ai professionisti e non sostituirli».

[5]TAR Lazio, Roma, Sez. III-bis, 22 marzo 2017, n. 3769, e Id., 13 settembre 2019, n. 10964.

[6]Cons. Stato, Sez. VI, 8 aprile 2019, n. 2270.

[7]Per la qualificazione dell’algoritmo come «atto amministrativo informatico» e l’analisi del relativo regime dei vizi, A.L. RUM, Il provvedimento amministrativo adottato mediante algoritmo: il ruolo dell’intelligenza artificiale nel processo decisionale della P.A., in ildirittoamministrativo.it.

[8]Cons. Stato, Sez. VI, 13 dicembre 2019, nn. 8472, 8473 e 8474. Le pronunce richiamano l’art. 22 e il considerando 71 del Reg. (UE) 2016/679 e la Carta della robotica approvata dal Parlamento europeo nel febbraio 2017.

[9]Cons. Stato, Sez. VI, 4 febbraio 2020, n. 881, e Id., 11 febbraio 2021, n. 1206 (quest’ultima per relationem). Sull’applicazione del principio al ciclo di vita del contratto pubblico, A. COLOMBAN, Automatizzazione delle procedure di gara e riserva di umanità, Studio Legale Stefanelli & Stefanelli, 19 novembre 2024.

[10]Il testo dell’art. 30 è riportato secondo la versione vigente del d.lgs. 31 marzo 2023, n. 36.

[11]D.lgs. 7 marzo 2005, n. 82 (Codice dell’amministrazione digitale). Sulla riconducibilità del codice sorgente al regime dell’accesso e della trasparenza, in coerenza con Cons. Stato n. 2270/2019.

[12]TAR Marche, Ancona, Sez. I, 1° giugno 2026, n. 758 (pronunciata ex art. 60 c.p.a.; Pres. C. Anastasi, Est. T. Capitanio). La pronuncia è consultabile sul portale della Giustizia amministrativa.

[13]Art. 98 del d.lgs. n. 36/2023, in tema di illecito professionale grave. Nella motivazione il Collegio richiama, sull’autonomia valutativa della stazione appaltante, Cons. Stato n. 8529/2024 e TAR Piemonte n. 712/2025.

[14]TAR Lazio n. 1895/2026, richiamata da TAR Marche n. 758/2026, secondo cui il controllo umano delle decisioni automatizzate trova fondamento negli artt. 3, 24 e 97 Cost., nella l. n. 241/1990 (artt. 1 e 3; 7 ss.; 22 ss.) e nel d.lgs. n. 82/2005.

[15]L’art. 86 del Reg. (UE) 2024/1689 riconosce il «diritto alla spiegazione dei singoli processi decisionali», imponendo al deployer di fornire «spiegazioni chiare e significative sul ruolo del sistema di IA nella procedura decisionale e sui principali elementi della decisione adottata»; in termini analoghi l’art. 30 del Codice dei contratti.

[16]Le pronunce richiamate da TAR Marche n. 758/2026 a conferma dell’esistenza dei principi (a prescindere dall’esattezza delle citazioni): Cass. civ., ord. n. 2574/2025; TAR Piemonte n. 1754/2025; Cons. Stato n. 307/2021.

[17]Sul fenomeno della motivazione «condita» di massime giurisprudenziali e sui suoi riflessi in punto di responsabilità, il Collegio richiama l’art. 2, comma 3, del d.lgs. n. 36/2023 e l’art. 1 della l. n. 1/2026, recante novella dell’art. 1 della l. n. 20/1994.

[18]L. 23 settembre 2025, n. 132, pubblicata nella Gazzetta Ufficiale del 25 settembre 2025, in vigore dal 10 ottobre 2025. L’art. 1, comma 1, qualifica la legge come recante «princìpi»; il comma 2 ne impone l’interpretazione e l’applicazione conformi al Reg. (UE) 2024/1689.

[19]Per la natura di legge «per principi» e i conseguenti limiti di vincolatività, nonché per i profili di annullabilità degli atti esclusivamente algoritmici, G. SALANITRO, op. cit.

[20]F. PASQUALE, The Black Box Society. The Secret Algorithms That Control Money and Information, Harvard Univ. Press, Cambridge, 2015; D.U. GALETTA – J.G. CORVALÁN, Intelligenza artificiale per una p.a. 4.0? Potenzialità, rischi e sfide della rivoluzione tecnologica in atto, in Federalismi.it, n. 3/2019.

[21]La massima («se la forza della matematica è quella di non essere un’opinione, la forza del diritto è invece proprio quella di essere un’opinione») è di S. SATTA. In chiave critica sul rapporto fra IA e strutture di potere, K. CRAWFORD, Né intelligente né artificiale. Il lato oscuro dell’IA, Il Mulino, Bologna, 2021.

[22]A. PATRONI GRIFFI, La decisione robotica e il giudice amministrativo, e G. PESCE, Il Consiglio di Stato ed il vizio della opacità dell’algoritmo tra diritto interno e diritto sovranazionale, entrambi in giustizia-amministrativa.it.

[23]La proposta di revisione costituzionale è stata illustrata dal Primo Ministro K. Mitsotakis il 7 maggio 2026; la disposizione stabilisce che «l’intelligenza artificiale serve la libertà dell’individuo e la prosperità della società, mitigandone i rischi e valorizzandone i benefici». Cfr. Associated Press, Greece, birthplace of democracy, seeks to put humanity ahead of AI in updated constitution, 7 maggio 2026.

The post Il principio di riserva di umanità e l’intelligenza artificiale come supporto alle decisioni della pubblica amministrazione nel settore dei contratti pubblici appeared first on lentepubblica.it.