Raport „Równanie Płci 2” o biasie AI opisany w mediach - mamstartup.pl
Nasz raport „Równanie Płci 2” - analiza uprzedzeń płciowych w 18 modelach sztucznej inteligencji - został opisany przez serwis mamstartup.pl w artykule „Algorytmiczne lustro społecznych uprzedzeń raportu Równanie Płci 2”.
Co zauważyli w raporcie
Autorzy tekstu zwracają uwagę na tę samą tezę, którą stawiamy w raporcie: algorytmy AI nie są neutralne - odbijają i utrwalają uprzedzenia obecne w danych, na których zostały wytrenowane. Artykuł obala też dwa popularne mity, które testowaliśmy: że nowszy model automatycznie znaczy „mniej stronniczy” oraz że lepsza znajomość języka gwarantuje sprawiedliwość.
Wśród przywołanych wyników znalazły się między innymi:
- bias modelu MMLW na poziomie |d| = 1,05 - najwyższy w naszym zestawieniu,
- klasyczny fastText z wynikiem |d| = 0,64 - w środku stawki, mimo że to najstarszy z testowanych modeli,
- ujemna korelacja (r = -0,50 do -0,55) między realnym udziałem kobiet w zawodzie a tym, jak „płciowo” postrzega go model,
- test oceny CV na 330 kontrolowanych parach zgłoszeń, w którym Llama 3.1 8B systematycznie oceniała mężczyzn wyżej o 5,2 punktu.
To dokładnie te liczby, które w raporcie mają pokazać, że skala uprzedzeń nie zależy od rozmiaru modelu ani daty premiery - trzeba ją zmierzyć osobno dla każdego wdrożenia.
Dlaczego to ważne
Skoro temat trafia do mediów branżowych, to znak, że firmy zaczynają traktować bias algorytmiczny jako realne ryzyko biznesowe i prawne - nie tylko akademicką ciekawostkę. Dotyczy to zwłaszcza rekrutacji wspieranej przez AI, gdzie różnice w ocenie kandydatów o kilka punktów mogą realnie wpływać na decyzje.
Pełny raport do pobrania
Cały raport „Równanie Płci 2” - z metodyką, ośmioma bateriami testów i kompletem wykresów - opisaliśmy szczegółowo w tym wpisie na naszym blogu, a sam PDF pobierzesz bezpłatnie ze sklepu:
Pobierz PDF raportu „Równanie Płci 2”
Jeśli zastanawiasz się, jak zmierzyć uprzedzenia modelu, którego używacie w rekrutacji lub komunikacji marketingowej - napisz do nas.