Area tematicaNorme, rischi e conformità
Conosciuto anche comerischio sistemico dei modelli di IA per finalità generali
Il rischio sistemico, nell'AI Act, è un rischio specifico delle capacità di impatto elevato dei modelli di IA per finalità generali (quelli addestrati per svolgere compiti molto diversi, come i grandi modelli alla base dell'IA generativa).
L'articolo 3 lo definisce come un rischio che, per la portata di quei modelli, produce un effetto negativo significativo sulla salute pubblica, la sicurezza, i diritti fondamentali o la società nel suo complesso, e che può propagarsi lungo tutta la catena del valore.
La parola sistemico dice che il danno non resta nel singolo uso. Un modello alla base di molte applicazioni, se sbaglia o viene sfruttato in modo improprio, trasferisce l'errore a ogni prodotto costruito sopra di lui. Per questo l'articolo 51 stabilisce quando un modello si classifica a rischio sistemico, in base alle capacità di impatto elevato, e l'articolo 55 impone ai suoi fornitori obblighi aggiuntivi: valutazione del modello, mitigazione dei rischi, segnalazione degli incidenti gravi e protezione della sicurezza informatica.
La vigilanza su questi modelli spetta all'Ufficio per l'IA della Commissione. Per un'azienda che si limita a usare un modello altrui, il concetto serve soprattutto a scegliere il fornitore e a chiedergli quali garanzie offre.
Fonte: Regolamento (UE) 2024/1689 (AI Act), articolo 3, punto 65, e articoli 51 e 55, testo su EUR-Lex.
Un esempio
Il caso che segue è costruito, perché il termine non compare ancora negli articoli. Un modello di linguaggio molto diffuso viene incorporato in centinaia di applicazioni di aziende diverse: un suo difetto di sicurezza si ripercuote su tutte insieme, ed è questo che l'AI Act chiama rischio sistemico.
voci più ampiequesta voce e le figlienipoti← sali · → scendi
Enrico Giubertoni. Licenza CC BY-NC 4.0: puoi citarla, tradurla e adattarla con il nome dell'autore e il link, indicando se l'hai modificata. Per un uso commerciale scrivi a info@enricogiubertoni.com
Hai trovato un'inesattezza o un dato da aggiornare? Scrivi a info@enricogiubertoni.com e aiutaci a rendere questo glossario un posto migliore.
Quali sono le tue sfide di business?
Parlaci delle tue priorità e degli obiettivi che vuoi raggiungere.
Riceverai una risposta gratuita e mirata entro un giorno lavorativo.