Drony mogą doprowadzić do światowej tragedii? Tak twierdzi była pracowniczka Google
Nowa generacja autonomicznych broni może przez przypadek zapoczątkować wojnę, w wyniku której zginą tysiące bezbronnych ludzi.
Laura Nolan zrezygnowała z pracy w Google po tym, jak trafiła do projektu, którego było celem rozwinięcie technologii dronów należących do amerykańskiej armii. Od tego czasu głośno walczy o to, aby "mordercze maszyny" (tak potocznie określa się autonomiczne drony), które nie są obsługiwane przez ludzi zostały zakazane.
Mordercze Roboty mogą zapoczątkować przez przypadek wojny
W przeciwieństwie do dronów kontrolowanych przez wojskowych, sterowane przez SI maszyny są zdolne dokonać czynów, do których nie zostały pierwotnie zaprogramowane. Nolan niedawno dołączyła do inicjatywy Stop Killer Robots, w której znajduje się 4500 ekspertów od SI, wśród nich 21 nobilistów. Grupa walczy o zakończenie prac nad i zdelegalizowanie dronów niewymagających obsługi człowieka.
(Drony) mogą zacząć się zachowywać w nieoczekiwany sposób i doprowadzić do tragedii na szeroką skalę. Właśnie dlatego wszelkie zaawansowane systemy uzbrojenia powinny podlegać kontroli człowieka, w przeciwnym razie trzeba je zbanować, ponieważ są zbyt nieprzewidywalne i niebezpieczne
Nolan została zatrudniona w amerykańskim gigancie w 2013 roku, 4 lata później dołączyła do zespołu pracującego nad Projektem Maven. Celem Maven miało być przyspieszenie technologi rozpoznawania twarzy. Amerykańskie wojsko chciało zrezygnować z wykorzystywania agentów wojskowych do przeglądania kolejnych godzin nagrań wideo, które przedstawiałyby potencjalne cele wroga. Google miał stworzyć system, w którym maszyny mogłyby różnicować ludzi i przedmioty w nieskończenie szybszym tempie.
Google ostatecznie zrezygnowało z kontraktu w marcu 2019 po tym, jak ponad 3000 pracowników podpisało petycję nawołującą do zerwania współpracy z Amerykańskim Departamentem Obrony.
Praca nad SI wymaga moralności i etyki
Problemem tych maszyn jest również fakt, że są one testowane dopiero w trakcie swoich pierwszych wojskowych akcji. Oznacza to, że twórcy nie mają pewności, jak maszyna się zachowa po wypuszczeniu na teren wroga. Według Nolan wystarczy, że dron natrafi na pogodę, której nie przewidzieli programiści, aby popełnić błąd. Może on skutkować stratami wśród setek cywili, co może eskalować w otwarty konflikt zbrojny. Błędny atak maszyny na nieodpowiednią placówkę może doprowadzić do szybkiej reakcji wojska, które może uznać tego typu wydarzenie za oficjalny akt agresji.
W jaki sposób maszyna do zabijania na własną rękę rozróżni 18-letniego kombatanta i 18-latka, który poluje na króliki?
Pyta w rozmowie z Guardianem Nolan. Przypominając, że drony przelatują przez tereny zasiedlone przez cywili.
Rozwijająca się ciągle technologia SI jest powodem do zmartwień dla wielu ludzi. SI wymaga nie tylko najlepszych naukowców, ale też etycznych zachowań w trakcie prac nad nimi. Nie chcemy w końcu potrzebować Arnolda Schwarzeneggera do ratowania świata.
Zobacz także: Rosyjski miliarder buduje kosmiczna Arkę Noego dla 15 milionów ludzie