Jak algorytmy AI ujawniają ukryte uprzedzenia płciowe?
Jak algorytmy AI ujawniają ukryte uprzedzenia płciowe?
W nowym raporcie „Równanie płci 2” autorzy postawili sobie za cel ilościowe zmierzenie skali uprzedzeń płciowych w 18 popularnych modelach AI. Badanie wykorzystało 8 standaryzowanych baterii testowych (E1–E8) w celu zbadania możliwości ich redukcji.
Najważniejszymi wnioskami raportu Agidot jest empiryczne obalenie dwóch powszechnych mitów dotyczących AI:
- Mit I: „Nowszy i większy model oznacza mniej uprzedzeń” - Badania pokazują, że to zjawisko jest odwrotne.
- Mit II: Wyższa jakość modelu = mniejsze ryzyko uprzedzeń - Rzeczywistość pokazuje, że wcale tak nie jest.
Jednym z kluczowych testów, które ujawniają te problemy, jest WEAT (Word Embedding Association Test). Badanie to mierzy siłę skojarzeń płci z różnymi kategoriami, takimi jak kariera, rodzina, nauka czy sztuka. Wyniki wskazują, że najgorzej wypadły najnowsze polskie modele embeddingowe MMLW.
Na podstawie: Źródła
