Zrobili deepfake'a prezesa firmy i ukradli jej 240 tysięcy
Cyberprzestępcy skopiowali głos prezesa i przekonali pracowników do przelania pieniędzy na ich konta.
Jest to pierwszy znany przypadek tego typu kradzieży. Przestępcy skorzystali z deepfake'a opartego na sztucznej inteligencji, i, korzystając z głosu pracodawcy, podszyli się pod niego w rozmowie z pracownikami firmy. Złodzieje zdobyli nagrania głosu CEO, nauczyli program korzystania z niego, a następnie przekonali pracowników do zrobienia przelewu na kwotę 243 tysięcy dolarów.
Deepfake do tej pory najczęściej pojawiał się z sieci jako zabawna technologia, pozwalająca na przykład na dodanie twarzy Toma Crusie'a do ciała Christiana Bale'a. Teraz dostaliśmy pierwsze poważne ostrzeżenie o ryzyku drzemiącym w pozornie niewinnej zabawce.
W branży weryfikacji tożsamości obserwujemy coraz więcej oszustw opartych na sztucznej inteligencji.
- wyjaśnia David Thomas (CEO firmy weryfikującej tożsamość Evident) w rozmowie z Threatpost.
Złodzieje wykorzystali audio deepfake
Wall Street Journal podaje, że ofiarą kradzieży była firma energetyczna (nie podano jej nazwy). Do kradzieży doszło w marcu tego roku. CEO firmy myślał, że rozmawia ze swoim szefem, prezesem niemieckiej firmy matki. Dzwoniący poprosił przez telefon o przelanie środków na konto węgierskiego dostawcy. Prośba była "pilna". Ofiara, przekonana, że rozmawia ze swoim przełożonym - jego głos miał odpowiedni niemiecki akcent i brzmienie. Przelew więc zrobiono. Chwilę później złodzieje zadzwonili ponownie, prosząc o kolejną płatność, co wzbudziło podejrzenia pracowników firmy. W między czasie pieniądze z pierwszego przelewu zostały szybko przelane na meksykańskie konta, a następnie rozrzucone po świecie. Policja na razie nie jest w stanie wskazać potencjalnych podejrzanych.
AI zmienia świat
Od kilku lat firmy zajmujące się Sztuczną Inteligencją wyjaśniają, jakie ryzyko idzie za popularyzacją SI w realnym świecie. Istnieje ryzyko, że technologia deepfake pomoże w przyszłości manipulować m.in. tym, kto wygra wybory, niszczyć kariery czy doprowadzać do depresji i samobójstw młodych ludzi, których twarze zostaną wykorzystane przez kolegów dla żartów.
W tej chwili wymagana jest wiedza techniczna, pomysłowość, moc obliczeniowa i dane, aby modele takie jak te działały dobrze .Ale w ciągu najbliższych kilku lat (lub nawet wcześniej) zobaczymy postęp technologiczny do momentu, w którym potrzeba będzie tylko kilku sekund dźwięku, aby stworzyć realistyczną replikę głosu każdego na planecie.
- wyjaśniają przedstawiciele firmy Dessa, która oferuje narzędzia klasy korporacyjnej do inżynierii uczenia maszynowego.
Wygląda na to, że SI to nasza przyszłość. Poczynając od tworzenia mądrzejszych przeciwników w grach komputerowych, kończąc na maszynach pomagających nam w codziennym życiu, takich jak inteligentne lodówki, sprytne telewizory i genialne komórki. Jednak musimy pamiętać, że nieodpowiedzialne korzystanie z SI, brak regulacji i zbyt szybki, a do tego łatwy dostęp do nowoczesnych technologii może narazić nas na gigantyczne kłopoty.
Zobacz także: Dzięki tej aplikacji w 8 sekund zostaniesz Leonardo DiCaprio