Proces rekrutacji? Kogo odrzuci wadliwy algorytm? Choć nie osądzają i nie oszukują to nawet najlepsze AI mają całkiem ludzkie uprzedzenia

Warto uświadamiać programistom,  że to, z czym pracują, to nie tylko bazy danych i języki programowania, ale delikatna tkanka społeczno-kulturowa

Amazon zdecydował się przed paru laty na odważny i nowatorski krok. Zamiast zatrudnić sztab ludzi do rekrutacji, zadanie powierzył programowi sztucznej inteligencji. Program miał jedno zadanie – z tysięcy spływających do firmy CV wyłowić te, które najlepiej odpowiadają wymogom na danych stanowiskach. Po kilku tygodniach testowego działania programu Amazon zorientował się, że z niezrozumiałych powodów algorytm preferuje mężczyzn i gdy ma do wyboru CV aplikanta płci męskiej i żeńskiej, wybiera to pierwsze, choć oboje kandydaci mają takie same kwalifikacje i doświadczenie.

To jeden z najbardziej znanych przykładów działania uprzedzeń, które mogą mieć zaawansowane programy zwane sztuczną inteligencją. Firma Amazon do dziś nie potwierdziła ani nie zaprzeczyła tej historii. Z nieoficjalnych informacji opublikowanych przez agencję Reuters wiadomo, że po krótkim okresie działania programu informatycy firmy wychwycili błąd i usunęli go. Jednak możemy być pewni, że prędzej czy później powtórzy się on w innej firmie, zapewne z innym programem sztucznej inteligencji. Okazuje się bowiem, że programy AI bardzo łatwo ulegają błędom myślenia i oceny przekazanym im najczęściej mimowolnie przez ludzi. I te błędy mogą przynosić firmom ogromne koszty finansowe i wizerunkowe.

Źródła: Redakcja Forbes Women
Tags:
  • seksizm
  • uprzedzenia
  • sztuczna inteligencja
  • ForbesWomen
  • dyskryminacja
  • algorytm
  • Amazon
  • AI
  • unconscious bias