Primi tentativi di definizione di IA nella giurisprudenza italiana: la sentenza de Consiglio di Stato n. 7891/2021
Un interrogativo, che ci si pone in ambito giuridico, riguarda la classificazione degli algoritmi e la loro posizione rispetto alle c.d. intelligenze artificiali (IA). In termini informatici non vi sarebbe una distinzione, atteso che rientrano nella classificazione generale di algoritmo sia quelli “tradizionali”, che quelli di IA; ciò che li distingue è la loro complessità.
La vera distinzione, infatti, in informatica non si effettua tra “algoritmo” e “intelligenza artificiale”, ma tra i diversi livelli di autonomia dell’algoritmo stesso, suddivisi in: 1) automazione, algoritmi connotati dalla semplice esecuzione di istruzioni prestabilite, senza che le modalità d’azione possano essere modificate se non con l’intervento di un programmatore; 2) IA Debole, algoritmi di intelligenza artificiale sufficiente autonomi e avanzati che puntano a simulare l’intelligenza umana, imparando dall’esperienza; 3) IA Forte, algoritmi di IA molto avanzati che puntano a costruire una vera e propria intelligenza di livello uguale o superiore rispetto a quella umana.
Per quanto riguarda la regolamentazione delle c.d. intelligenze artificiali a livello europeo esiste una proposta della Commissione Europea sull’IA del 21 aprile 2021, che, secondo alcuni commentatori, pur con l’intenzione originaria di fornire una definizione circostanziata di IA, finisce per fornirne una forse fin troppo ampia, ricomprendendo al suo interno il machine learning, il deep learning, metodi di ricerca/ottimizzazione e sistemi esperti; realtà che invece non sempre sono assimilabili l’una all’altra.
Nel nostro ordinamento una prima definizione circostanziata è arrivata dalla sentenza del Consiglio di Stato n. 7891/2021.
La questione alla base della controversia era sorta a seguito dell’aggiudicazione di una gara d’appalto da parte di una società a discapito di un’altra concorrente – d’ora in poi chiamate A e B – per la fornitura ad enti sanitari lombardi, di pacemaker di alta fascia. La motivazione alla base del ricorso riguardava le indicazioni e i requisiti indicati dagli enti lombardi nella lex gara, utili ai fini del conferimento di un punteggio sulla base del quale si sarebbe stabilito il vincitore della gara d’appalto. All’interno del bando, tra i criteri di valutazione tecnica dell’offerta, era specificato come parametro tabellare la dotazione in capo ai dispositivi di un algoritmo di prevenzione e un algoritmo di trattamento delle tachiaritmie atriali. Nello specifico in caso di presenza di entrambi, sarebbero stati assegnati 15 punti, mentre, in caso di presenza di solo uno dei due, soltanto 7. Ad aggiudicarsi la fornitura è la società A, cui veniva assegnato il punteggio massimo di 15 punti, mentre a B veniva assegnato soltanto un punteggio pari a 7. Conseguentemente, quest’ultima proponeva ricorso al TAR Lombardia, lamentando la non assegnazione del punteggio massimo, a causa della mancanza, all’interno dei pacemaker da loro progettati, di un sistema automatizzato di “trattamento delle tachiaritmie atriali”. Infatti, i dispositivi proposti da A erano dotati del sistema NIPS (Noninvasive program stimulation), consistente in uno studio elettrofisiologico eseguito in office, da un operatore specialistico. Il ricorso fondava sull’argomentazione che, nel bando di gara, non fosse stato indicato come requisito oggetto di valutazione l’implementazione di software di intelligenza artificiale all’interno dei dispositivi sanitari e, alla luce di ciò, essendo il NIPS comunque configurabile come algoritmo, non fosse giustificato il conferimento di soli 7 punti rispetto ai 15 assegnati alla società concorrente. La società A proponeva ricorso incidentale e contestava le affermazioni di B, indicando come le evoluzioni tecnologiche nel settore medico avessero portato alla progettazione di algoritmi sempre più complessi ma che, nel caso ad oggetto, il software di cui erano dotati i loro dispositivi rispondesse ancora allo schema tipico “input-elaborazione-risposta” proprio degli algoritmi “tradizionali, non avendo nulla di assimilabile alle intelligenze artificiali”.
Il TAR Lombardia, con sentenza n. 843/2021, accoglieva il ricorso di B specificando che: a) la legge di gara richiedesse unicamente la presenza di un algoritmo di trattamento, senza altro specificare; b) un algoritmo consiste semplicemente in una sequenza finita di istruzioni, ben definite e non ambigue, così da poter essere eseguite meccanicamente e tali da produrre un determinato risultato (ricomprendendo quindi il NIPS); c) non debba confondersi la nozione di “algoritmo” con quella di “intelligenza artificiale”, riconducibile invece allo studio di “agenti intelligenti”. Il Tar motivava la propria decisione classificando il software alla base dei dispositivi della società A come algoritmo di IA, specificando, inoltre, che un algoritmo di trattamento dell’aritmia altro non è che l’insieme di passaggi necessari al trattamento del singolo tipo di aritmia e che questo concetto non include necessariamente che il dispositivo debba essere in grado di riconoscere in automatico l’esigenza e somministrare quindi direttamente la corretta terapia meccanica. Il Tar pertanto riteneva fondati i motivi proposti da B e stabiliva che l’assegnazione di 7 punti anziché 15 sia stata causata da una valutazione confusa della stazione appaltante, che ha sovrapposto il concetto di algoritmo con quello di trattamento automatico (IA)
La Società A proponeva appello e la questione veniva rimessa innanzi al Consiglio di Stato. Ciò che maggiormente interessa della pronuncia della massima autorità amministrativa qui in commento è la distinzione tra algoritmi “tradizionali” ed intelligenza artificiale. Dissentendo dall’inquadramento del giudice di prime cure, il Consiglio di Stato ritiene che la definizione di algoritmo sia riconducibile ai “distinguo” che seguono.
A) Il termine algoritmo, applicato a sistemi tecnologici, è collegato al concetto di automazione, ossia a sistemi di azione e controllo idonei a ridurre l’intervento umano. Il grado e la frequenza dell’intervento umano dipendono dalla complessità e dall’accuratezza dell’algoritmo che la macchina è chiamata a processare.
B) Nel caso dell’intelligenza artificiale l’algoritmo contempla meccanismi di machine learning e crea un sistema che non si limita solo ad applicare le regole software e i parametri preimpostati ma, al contrario, si evolve imparando dai dati raccolti e assume decisioni efficienti sulla base di tali elaborazioni, secondo un processo di apprendimento automatico.
C) L’amministrazione ha espresso preferenza per la presenza congiunta di algoritmi di prevenzione e trattamento delle “tachiaritmie atriali”; indicazione sufficiente per ottenere la fornitura di un dispositivo con elevato grado di automazione, senza dover far riferimento ad IA alcuna. Intelligenza artificiale, inoltre, che non era presente nel caso di specie, trattandosi – quello proposto da A – di un semplice algoritmo tradizionale, sebbene molto avanzato.
D) Il sistema NIPS di B, pur consistente in un algoritmo, prevede il coinvolgimento di un soggetto umano “esterno” che prende momentaneamente il controllo del dispositivo. Questo sistema, che viene inoltre classificato dal Ministero della Salute tra le “procedure diagnostiche sul cuore e sul pericardio”, non interviene automaticamente nelle funzioni di prevenzione e trattamento delle tachiaritmie atriali, come invece richiesto dall’amministrazione, che quindi correttamente non l’ha considerato ai fini del punteggio.
In conclusione, il Consiglio di Stato stabilisce che l’algoritmo di A non consiste in un software di IA, ma bensì in un normale algoritmo avanzato che risponde agli scopi di automazione per cui è stato progettato, rispettando il classico schema “input-elaborazione-risposta” proprio degli algoritmi tradizionali. Pertanto, in riforma della sentenza del TAR Lombardia, il Consiglio di Stato, con Sent. n. 7891/2021, accoglie il ricorso.
La pronuncia in commento rappresenta senz’altro un precedente importante per gli orientamenti giurisprudenziali futuri, perché traccia il confine oltre il quale può effettivamente parlarsi di intelligenza artificiale: tutti gli altri algoritmi, se sprovvisti di meccanismi di machine learning e apprendimento automatico, per quanto avanzati, non possono essere considerati alla stregua software di IA. La distinzione sopraesposta tra algoritmi tradizionali ed “intelligenti”, potrà aiutare gli operatori del diritto chiamati a decidere casi analoghi, nell’attesa che sia emanata una normativa europea e nazionale in grado di disciplinare l’intelligenza artificiale.
