Area tematicaNorme, rischi e conformità
I bias algoritmici sono i preconcetti incorporati in un algoritmo.
Non sono semplici errori tecnici: l'algoritmo è progettato da esseri umani e addestrato su dati prodotti da esseri umani, e ne eredita i pregiudizi. Il risultato sono risposte sistematicamente distorte a danno di alcuni gruppi.
Fonte: Manuale del Cosmetologo, capitolo 3.6, Tecniche Nuove.
Un esempio
Se la ricerca «donna» restituisce quasi solo immagini di donne bianche caucasiche, l'algoritmo ha identificato il concetto di donna con uno solo dei suoi gruppi. In qualunque valutazione automatica lo stesso meccanismo penalizza chi assomiglia poco ai casi del passato su cui il modello ha imparato.
Voci correlate
voci più ampiequesta voce e le figlienipoti← sali · → scendi
Enrico Giubertoni. Licenza CC BY-NC 4.0: puoi citarla, tradurla e adattarla con il nome dell'autore e il link, indicando se l'hai modificata. Per un uso commerciale scrivi a info@enricogiubertoni.com
Hai trovato un'inesattezza o un dato da aggiornare? Scrivi a info@enricogiubertoni.com e aiutaci a rendere questo glossario un posto migliore.
Quali sono le tue sfide di business?
Parlaci delle tue priorità e degli obiettivi che vuoi raggiungere.
Riceverai una risposta gratuita e mirata entro un giorno lavorativo.