Számos cég, köztük Microsoft і Facebookés még a Dél-Kaliforniai Egyetem kutatói is olyan technológiákat fejlesztenek ki, amelyek leküzdhetik a mélyhamisításokat, és megakadályozzák azok sárga médiával és általában a félretájékoztatással való terjedését. A tudósok egy csoportjának azonban sikerült becsapnia őket.
A San Diego-i Kaliforniai Egyetem informatikusaiból álló csoport arra figyelmeztetett, hogy továbbra is meg lehet téveszteni a meglévő mélyhamisítás-érzékelő rendszereket, ha bemeneti adatokat, úgynevezett „versenyző példákat” illesztenek be minden videókockába. A tudósok a múlt hónapban online tartott WACV 2021 Computer Vision konferencián mutatták be eredményeiket.
A versengő példák enyhén módosított bemenetek, amelyek a mesterséges intelligencia rendszerek, például a gépi tanulási modellek hibáit okozzák. Ezenkívül a csapat kimutatta, hogy a támadás a videó tömörítése után is működik. A fenti videóban a tudósok megmutatják, hogy az XceptionNet, egy mélyhamisítás-érzékelő, a versengő videójukat "igazinak" nevezi.
A legtöbb ilyen detektor úgy működik, hogy követi az arcokat egy videóban, és a levágott arcadatokat elemzés céljából egy neurális hálózatba küldi. A neurális hálózat ezután elemzi ezeket az adatokat, és megtalálja azokat az elemeket, amelyek általában rosszul reprodukálódnak a mélyhamisításokban, mint például a villogás.
Versengő példák beillesztésével a kutatók arra a következtetésre jutottak, hogy elhitethetik a mélyhamisítás-detektorokkal, hogy a videók valódiak.
Az újságban leszögezik, hogy „a mélyhamisítási detektorok gyakorlati használatához fontos, hogy értékeljük őket egy olyan adaptív ellenféllel szemben, amely tudatában van ennek a védelemnek, és szándékosan megpróbálja megtörni azt. Megmutatjuk, hogy a modern mélyhamisítás-észlelési módszerek könnyen megkerülhetők, ha a támadó teljesen vagy akár részben tisztában van az érzékelővel."
Amint ezek a tudósok kimutatták, a dezinformáció leküzdésére kifejlesztett automatizálási technológiák talán még nem felelnek meg a feladatnak.
Olvassa el még: