Uno dei problemi più spinosi dell’AI è garantire che la nuova tecnologia non finisca per riflettere gli stessi pregiudizi dei suoi creatori umani. L’intelligenza artificiale generativa, addestrata su enormi quantità di dati, sta aggravando il problema anziché mitigarlo. L’attivista per i dati Renée Cummings, in occasione dell’evento Brainstorm Design di Fortune tenutosi giovedì a Macao, ha sostenuto che il nocciolo del problema sono i dati. “Sappiamo che l’AI è una tecnologia rivoluzionaria e radicale, ma dobbiamo capire che non c’è AI senza dati”, ha detto.
Cummings, professore di Scienza dei dati presso l’Università della Virginia, esamina i rischi etici dell’intelligenza artificiale e studia come costruire un’AI responsabile e sostenibile che possa portare benefici a tutti i membri della società, indipendentemente dal background.
Per esempio, un recente studio delle Nazioni Unite ha indicato come la polizia predittiva riproduca i pregiudizi razziali attraverso la tecnologia. Questa pratica comporta la formulazione di giudizi su chi commetterà crimini in futuro e su dove tali incidenti potrebbero verificarsi. Lo studio avverte che la polizia predittiva potrebbe aggravare ulteriormente i problemi legati all’eccessivo controllo delle comunità in base all’etnia.
“Sappiamo che i dati creano sfide uniche quando si tratta di pregiudizi, discriminazioni e sfide sistemiche”, ha detto Cummings. “È molto importante, quando progettiamo, chiederci da dove provengono questi dati”, ha chiesto. Ciò significa che chi progetta l’AI deve avere un maggiore senso di “vigilanza etica”, ha spiegato. “Abbiamo la responsabilità di garantire un quadro di riferimento per verificare i modi in cui costruiamo i modelli e gli algoritmi”, ha detto.
L’AI ha il potenziale per fare “cose straordinarie”, ha osservato Cummings. Gli strumenti di AI hanno portato a una maggiore efficienza, a una riduzione dei costi e a una maggiore convenienza. Ma questo non fa che aumentare la necessità di assicurarsi che la nuova tecnologia funzioni in modo responsabile.
L’articolo originale è disponibile su Fortune.com
