31.07.2017 13:13

Naukowcy ostrzegają przed śmiercionośną aplikacją

Programiści nie ustają w tworzeniu aplikacji, które mają otrzymać miano „killer app” - programu, bez którego nie sposób się obejść. Tym razem jednak udało się stworzyć dzieło, które jest dosłownie śmiertelnie niebezpieczne dla swoich użytkowników.

Naukowcy ostrzegają przed śmiercionośną aplikacją
foto: materiały prasowe

Naukowcy ostrzegają – „rewolucyjna Sztuczna Inteligencja” zastosowana w prostej i pomocnej aplikacji może zabijać ludzi. I nie jest to kwestia przyszłości - program można pobrać i zainstalować już dziś.

W świecie, gdzie terminy „uczenie maszynowe”, „deep learning” i „Sztuczna Inteligencja” zaczynają pojawiać się na każdym kroku powoli przyzwyczajamy się ufać tego typu rozwiązaniom – szczególnie, gdy okaże się, że małe programu mające działać dzięki SI są rzeczywiście przydatne.

Czasem jednak pojawiają się pomysły, od których naukowcom jeżą się włosy na głowie. Powstała na iPhone’y aplikacja została przez nich obwołana mianem „śmiertelnie groźnej”:

Twórca programu „Mushroom — Instant Mushroom Plants Identification” przekonuje, że dzięki zastosowaniu Sztucznej Inteligencji wystarczy zrobić zdjęcie znalezionego grzyba, żeby go zidentyfikować i dowiedzieć się, czy jest jadalny, czy nie.

Mykolodzy (naukowcy specjalizujący się w badaniu grzybów) załamują ręce – rozpoznanie z jakim dokładnie gatunkiem mamy do czynienia potrafi być trudne nawet dla doświadczonych grzybiarzy, którzy często wolą zostawić znalezisko w lesie, niż ryzykować zatrucie się.

Niektóre gatunku muchomorów są tak podobne do grzybów jadalnych, że nie sposób odróżnić ich tylko rzucając na nie okiem – potrzebne są dodatkowe oględziny, na przykład powąchanie grzyba. Aplikacja tego nie potrafi.

Skutki pomyłki w oszacowaniu gatunku grzyba mogą mieć śmiertelne konsekwencje, szczególnie jeśli użytkownik, zachęcony opisem aplikacji i wykorzystaniem Sztucznej Inteligencji, będzie jej bezkrytycznie wierzył – i to właśnie przeraziło naukowców.

W odpowiedzi na falę krytyki autor zdecydował się zmienić nazwę i opis aplikacji – obecnie jest ona przestawiana jako narzędzie do rozpoznawania trufli.

Lubicie grzybki?

Michał Tomaszkiewicz
Tagi: #Mobile