Pogoda
12.11.2019 11:45

Apple oskarżane o stworzenie seksistowskiego algorytmu wyznaczającego limity karty kredytowej

Małżeństwo, które wspólnie prowadzi konto bankowe i rozlicza się z fiskusem postanowiło sprawić sobie kartę kredytową Apple. Algorytm uznał, że żonie należy się 20-krotnie niższy limit, niż mężowi. Podobne kłopoty przeżył założyciel Apple, Steve Wozniak, razem ze swoją małżonką.

Apple Card
foto: materiały prasowe Apple

Apple nie chce być już kojarzone tylko z produkcją sprzętu i zamierza podbić nowe segmenty rynku. Przygotowuje się do rzucenia wyzwania Netfliksowi i uruchomienie serwisu VoD z własnymi produkcjami, coraz śmielej myśli także o oferowaniu usług finansowych.

System Apple Pay to pierwszy krok w tym kierunku. Właściciele sprzętów z logo jabłka na obudowie mogą ich wykorzystywać do dokonywania płatności, a korporacja zachęcą ponadto do założenia sobie wirtualnej karty kredytowej.

apple card
apple card
Przeczytaj także Apple Card - tytanowa karta kredytowa bez numeru, podpisu, ani kodu CVV

Do obsługi systemu przygotowano rozwiązania informatyczne z algorytmem sztucznej inteligencji odpowiedzialnej za szacowanie ryzyka i wyznaczanie oferowanej wielkości limitu kredytowego. Kłopot w tym, że wykorzystano zapewne uczenie maszynowe, podczas którego coś poszło nie tak.

Mężczyzna, który postanowił o tym poinformować, nie oszczędzał w słowach:

Seksistowskie algorytmy Apple zaniżają limit na karcie kredytowej kobietom

Mimo prowadzenia wspólnego pożycia finansowego małżonkowie zostali potraktowani zupełnie inaczej podczas wyznaczania limitu kredytowego. Jak się okazało, przy bazowaniu na tych samych danych mąż zyskał możliwość skorzystania z pożyczki 20 razy wyższej, niż przydzielono żonie.

Interwencje w tej sprawie nie przynosiły skutku, jako że pracownicy Apple powtarzali, że tak zdecydował algorytm i nic nie mogą zrobić. W końcu dysproporcję usunięto ręcznie, przyznając żonie status VIP-a. Warto przy tym zaznaczyć, że Apple powoływało się na korzystanie z oceny zdolności kredytowej, która, jak okazało się w czasie prowadzenia przez męża dochodzenia, była wyższa w przypadku żony.

Problem, jak się okazało, nie był odosobniony – podobny dysonans w decyzji sztucznej inteligencji dotknął współzałożyciela Apple, Steve’a Wozniaka, oraz jego żony.

Apple zapewne nie wie nawet, jak dokładnie działa okrzyknięty jako seksistowski algorytm. Powstał on dzięki uczeniu maszynowemu, które było dozorowane przez programistów nie mających możliwości sprawdzenia, dlaczego podejmowana jest taka a nie inna decyzja.

Komentarz w tej sprawie opublikował Goldman Sachs, bankowy partner Apple. Instytucja finansowa tłumaczy, że każdy wniosek rozpatrywany jest indywidualnie i że płeć nie jest w procesie w ogóle brana pod uwagę.

Dyskryminacja ze względu na płeć jest zagrożona w USA wysokimi karami.

Zobacz także: Apple oficjalnie przyznało, że spowalnia starsze iPhone’y 

Używacie urządzeń Apple?

Tagi: Gadżety