Microsoft walczy z deepfake'ami. Opracowano system wykrywania zmodyfikowanych materiałów
Jak odróżnić prawdę od fałszu w epoce zaawansowanej technologii? Ostrą walkę z dezinformacją w sieci podjęła właśnie firma Microsoft.
Deepfake to zjawisko niezwykle popularne w sieci. Wykorzystywane jest często do tworzenia zabawnych przeróbek lub obrazowania nam, jak dany aktor wypadłby w konkretnej roli. To jednak tylko jedna strona medalu. Technologia ta wykorzystywana jest również (a może przede wszystkim) do szerzenia dezinformacji, fake newsów, a także wyłudzeń. Firma Microsoft postanowiła podjąć walkę z deepfake'ami tworząc zaawansowany system ich wykrywania.
Microsoft walczy z deepfake'ami - system wykrywania zmodyfikowanych materiałów
Microsoft Video Authenticator to nowoczesne narzędzie wykorzystujące sztuczną inteligencję, którego zadaniem jest wykrycie, czy dany materiał został sztucznie zmodyfikowany. Analizie poddawane mogą być zarówno zdjęcia jak i pliki wideo. Jak program walczyć będzie z komputerową manipulacją? Poprzez wykrywanie mikroznaków wskazujących na sztuczne wygenerowanie danego materiału, w oparciu o specjalnie oprogramowanie.
Owe mikroznaki nie są zazwyczaj widoczne gołym okiem, co owocuje szerzeniem się dezinformacji. Microsoft Video Authenticator analizował będzie między innymi rozmycie brzegów poszczególnych pikseli w obrazie, co miałoby wskazywać, że jest to połączenie kilku istniejących już wcześniej materiałów.
Oprogramowanie nie będzie powszechnie dostępne. Microsoft Video Authenticator udostępniony zostanie tylko organizacjom działającym we współpracy z firmą. Decyzja ta miała zapaść w obawie, że program mógłby trafić w niepowołane ręce i przynieść skutek odwrotny do zamierzonego.
