Aresztowany jako terrorysta, bo Facebook źle przetłumaczył jego „Dzień dobry”
Obserwuj w Google
Od Facebooka może zależeć nasze życie – i to dosłownie. Palestyńczyk został aresztowany przez izraelską policję z powodu podejrzenia o terroryzm po tym, jak portal społecznościowy przetłumaczył jego „Dzień dobry” na „Zaatakujmy ich”.
Mężczyzna pracuje jako budowlaniec w okolicy Jerozolimy i na swoim profilu na Facebooku opublikował swoje zdjęcie przy spychaczu, okraszone komentarzem „Dzień dobry” napisanym po arabsku.
Wpis analizowali funkcjonariusze izraelskiej policji, korzystając z opcji automatycznego tłumaczenia. Facebook poinformował ich, że komentarz do zdjęcia brzmi „zaatakujmy ich” po hebrajsku i „zrańmy ich” po angielsku.
To wystarczyło, żeby Palestyńczyk został aresztowany pod zarzutem planowania zamachu terrorystycznego. Wiarygodności oskarżeniu dodawał fakt, że maszyny budowlane były używane wcześniej do przeprowadzania zamachu.
Mężczyzna został zwolniony kilka godzin po zatrzymaniu, gdy wpisowi przyjrzała się osoba władająca językiem arabskim i podała prawdziwe tłumaczenie posta.
Facebook przyznał, że używane przez niego algorytmy popełniły niebezpieczny błąd:
Niestety, nasz system translacji pomylił się w ubiegłym tygodniu i źle zinterpretował treść posta. Pomimo tego, że nasze tłumaczenia poprawiają się z dnia nadzień, pomyłki takie jak te mogą się od czasu do czasu zdarzać. Podjęliśmy kroki, żeby naprawić odkryty błąd. Przepraszamy naszego użytkownika i jego rodzinę za błąd i kłopoty, jakie spowodował.
Facebook początkowo korzystał z algorytmów tłumaczących dostarczanych przez Microsoft, od 2016 używa systemu rozwijanego samodzielnie.
Pomyłka w tłumaczeniu mogła kosztować mężczyznę życie – podejrzewani o terroryzm traktowani są jako szczególnie niebezpieczni. Wpadka każe popatrzeć z zupełnie innej strony na oferowane przez Google słuchawki, potrafiące tłumaczyć na żywo rozmowę. Pokładanie w automatycznym translatorze zbyt dużego zaufania może wieść do nieporozumień.
