Vai al contenuto
Parliamone
  1. Home
  2. Insights
  3. Glossario
  4. Sorveglianza umana

Glossario

Sorveglianza umana

Area tematicaNorme, rischi e conformità

Conosciuto anche comesupervisione umanacontrollo umano

La sorveglianza umana (in inglese human oversight) è il controllo che persone competenti esercitano su un sistema di intelligenza artificiale mentre è in uso, per prevenire o ridurre i rischi per la salute, la sicurezza e i diritti fondamentali.

L'articolo 14 dell'AI Act la richiede per i sistemi di IA ad alto rischio e chiede al fornitore di progettarli in modo che sia possibile.

Una sorveglianza che esiste solo sulla carta non serve. Il regolamento chiede che chi controlla capisca le capacità e i limiti del sistema, resti consapevole della tendenza a fidarsi troppo del risultato (il cosiddetto automation bias, cioè la propensione a dare per giusta la risposta di una macchina), possa interpretare l'esito, decidere di non seguirlo e interrompere il funzionamento con un comando di arresto.

Dall'altra parte, l'articolo 26 assegna al deployer il compito di affidare la sorveglianza a persone con competenza, formazione e autorità adeguate. Il tema attraversa la governance dell'IA: la responsabilità finale di una decisione resta a un essere umano e a un'organizzazione identificabile.

Fonte: Regolamento (UE) 2024/1689 (AI Act), articolo 14 e articolo 26, testo su EUR-Lex.

Un esempio

Un ufficio crediti usa un software che propone se concedere un finanziamento. L'addetta incaricata conosce i limiti dello strumento, può contestarne il risultato e fermare la procedura: la decisione finale la prende lei, non il software.

La mappa della voce

voci più ampiequesta voce e le figlienipoti← sali · → scendi

cc$BY-NCEnrico Giubertoni. Licenza CC BY-NC 4.0: puoi citarla, tradurla e adattarla con il nome dell'autore e il link, indicando se l'hai modificata. Per un uso commerciale scrivi a info@enricogiubertoni.com

Hai trovato un'inesattezza o un dato da aggiornare? Scrivi a info@enricogiubertoni.com e aiutaci a rendere questo glossario un posto migliore.

Quali sono le tue sfide di business?

Parlaci delle tue priorità e degli obiettivi che vuoi raggiungere.
Riceverai una risposta gratuita e mirata entro un giorno lavorativo.