Cosa è un "Sistema di intelligenza artificiale"?

La definizione di "sistema di intelligenza artificiale" é il punto di partenza per l'applicazione dell'Ai Act.

Chi ha seguito i lavori preparatori del Regolamento sa che tale definizione è stata più volte rivista, a testimonianza  della difficoltá di delimitare un chiaro perimetro tecnologico e dunque normativo.

La versione finale adottata é la seguente:

"Un sistema automatizzato progettato per funzionare con livelli di autonomia variabili e che può presentare adattabilità dopo la diffusione e che, per obiettivi espliciti o impliciti, deduce dall'input che riceve come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali".

La Commissione Europea ha avviato una consultazione pubblica per redigere linee guida che chiarissero tale definizione. Queste ultime sono state rese note dopo l'entrata in vigore dei primi obblighi (seppure in via, per ora, non ufficiale) al fine di consentire l'interpretazione delle previsioni giá in vigore (ad esempio quelle sulle pratiche di IA vietate).

Il quesito di fondo a cui dare risposta è: come distinguere un sistema "normale" da un sistema di intelligenza artificiale? Tale questione é forse la piú complessa che l'interprete si trova ad affrontare nell'applicazione dell'Ai Act.

Ebbene, la definizione dell'Ai Act considera 7 elementi.

Le linee guida chiariscono che tali elementi non debbono essere presenti nel corso dell'intera vita del sistema: alcuni sono specifici della fase di preparazione del sistema, altri della sua fase di funzionamento.

Vediamo i 7 elementi:

1) "Sistema automatizzato"

Significa che il sistema è "sviluppato con e funziona su delle macchine". Per "macchina" si intende la combinazione di software e hardware che consente al sistema di funzionare.

Il sistema deve dunque essere basato sul calcolo computazionale e le operazioni macchina. In altre parole: non è necessario che si tratti di futuristici robot, come qualcuno potrebbe avere pensato, ma per certo non puó trattarsi di semplici dispositivi elettrici o meccanici che non siano in grado di elaborare dati.

Le linee guide gettano anche uno sguardo sul prossimo futuro del quantum computing e dei sistemi biologici o organici (che elaborano dati) ma per il momento il PC da cui state leggendo questo testo è più che sufficiente.

2) Autonomia

Se il primo punto puó apparire ovvio, il concetto di autonomia appare giá piú complesso, quantunque suggestivo. Per capire cosa vuol dire autonomia, partiamo da cosa non lo è: laddove l'uomo deve intervenire ad ogni passo per indicare ad un sistema cosa fare, qui non vi è autonomia.

A mano a mano che la macchina non ha bisogno dell'uomo per sapere cosa fare, inizia a presentare i "vari livelli di autonomia" di cui alla definizione. In altre parole, l'autonomia è l'autonomia dagli uomini (niente paura...o forse sí).

Il supporto decisivo dell'autonomia é in una capacitá che vedremo tra poco: la capacità inferenziale. Ovvero dedurre un output da un input. Tanto piu un sistema ha una buona capacita inferenziale, tanto meno ha bisogno dell'uomo. Perché?

Perché é capace di ricavare informazioni dalla realtà (sulla base delle quali sostituire le istruzioni dell'uomo). Dunque la sua autonomia è nel comprendere ciò che manca da ció che c'é. Piu tale capacità é forte, più facciamo bene a cercarci un nuovo lavoro.

3) Capacità adattiva

Il considerando 12 chiarisce che si tratta della capacità di auto-apprendimento. Il sistema cambia sé stesso con l'uso. Le linee guida (vista la definizione) ribadiscono che questo elemento è facoltativo.

Perché mai una definizione normativa invece di scolpire nel marmo cosa sia un sistema di IA (e, a contrario, tutto ció che non lo é) contenga elementi eventuali resta un mistero non risolto dalle linee guida.

E' comunque bene sapere che la mancanza di questo elemento (così come del resto la mancanza di una musica di sottofondo...) non sarà decisivo al fine di concludere se siamo di fronte a un sistema di IA o meno.

4) Obiettivi

Precisiamo subito che gli obiettivi di un sistema di IA non sono le sue finalità. La finalita di un sistema di IA di guida autonoma é la guida autonoma. L'obiettivo è invece: non tamponare l'automobile davanti che ha frenato!

L'obiettivo di Chat-Gpt è interpretare correttamente il mio prompt e anche fornire una risposta accurata. La definizione distingue tra obiettivi impliciti o espliciti.

Nell'esempio di ChatGpt, l'obiettivo esplicito puó essere rispondere alla domanda, quello implicito puo essere l'obiettivo di considerare nella risposta elementi ulteriori (ad esempio che sono uomo e non donna) o di mitigare i rischi di certe risposte (non chiedere solo a me perche ti fa male il collo, vai dal medico!).

5) Capacità inferenziale

Questa viene definita come una caratteristica chiave. Un sistema di IA è tale (anche) perche da certi input ricava degli output. Ne abbiamo parlato sopra a proposito del requisito con cui va a braccetto: l'autonomia.

Il sistema puó fare ciò grazie ad alcune "Tecniche di IA" quali ad esempio il "machine-learning" (imparare dai dati come raggiungere certi obiettivi) che comprende il "super-vised learning" o l'"unsuper-vised learning" cosi come il più noto "deep-learning" che consiste nella capacità, in forza di reti neurali, di imparare determinate caratteristiche da dati grezzi (eliminando la necessità di intervento umano). Ciò è possibile grazie a un grande numero di dati oltre che a un gran numero di livelli e parametri pre-impostati.

Inoltre, fra le Tecniche di IA, le linee guida menzionano gli "approcci basati sulla logica e la conoscenza" in cui il sistema è in grado di "comprendere" sistemi logici contenenti cause, regole, fatti e relazioni (forniti da esperti in grado di spiegare i nessi tra informazioni).

Ad esempio, nei sistemi di medicina predittiva: il collegamento tra sintomi e malattia e la sottostante fisiologia umana. Nei chat-bot: una bella lezione di analisi logica, sintattica e del periodo.

6) Output

Un sistema di IA genera sempre un output. Esempi sono: previsioni, contenuti, raccomandazioni o decisioni. Una macchina a guida autonoma predice quanto ci vorrá a fermare la macchina con una frenata e su questa base (oltre che sulla fretta del passeggero che sta per perdere l'aereo) regola la distanza dalla macchina davanti: predizione e decisione.

7) Influenza sull'ambiente

Questo elemento vuol dire che il sistema di IA ha, fra le sue caratteristiche, quella di interagire con la realtà. Se producesse output che non hanno effetti nella realtà fisica o virtuale (es: un ambiente informatico) non ci troveremmo di fronte a un sistema di IA. I sistemi introversi non sono ben accetti.

In conclusione:

distinguere tra sistemi di IA e sistemi non di IA è una sfida interpretativa affascinante che affianca elementi logico/giuridici ad elementi tecnici.

Un intero edificio normativo poggia sulla definizione di questo perimetro.

La possibilità per gli interpreti di condividere e utilizzare informazioni, casi ed esperienze concrete costituirà certamente un aiuto rilevante nell'identificazione dei sistemi di IA.