Řada společností včetně Microsoft і Facebook, a dokonce i vědci z University of Southern California, vyvíjejí technologie pro boj s deepfakes a zabránění jejich šíření žlutými médii a dezinformacemi obecně. Skupině vědců se je však přesto podařilo oklamat.
Tým počítačových vědců z Kalifornské univerzity v San Diegu varoval, že je stále možné oklamat stávající systémy detekce hluboce falešných zpráv vložením vstupních dat nazývaných „konkurenční příklady“ do každého snímku videa. Vědci prezentovali svá zjištění na konferenci WACV 2021 Computer Vision Conference, která se konala online minulý měsíc.
Konkurenční příklady jsou mírně pozměněné vstupy, které způsobují, že systémy umělé inteligence, jako jsou modely strojového učení, dělají chyby. Kromě toho tým ukázal, že útok stále funguje i po komprimaci videa. Ve výše uvedeném videu vědci ukazují, že XceptionNet, deepfake detektor, označuje jejich konkurenční video jako „skutečné“.
Většina z těchto detektorů funguje tak, že sleduje tváře ve videu a odesílá data oříznutých obličejů do neuronové sítě k analýze. Neuronová síť pak tato data analyzuje a najde prvky, které jsou obvykle špatně reprodukovány v deepfakes, jako je blikání.
Vložením konkurenčních příkladů vědci zjistili, že mohou tyto hluboce falešné detektory oklamat, aby uvěřili, že videa jsou skutečná.
V příspěvku uvádějí, že „aby bylo možné tyto deepfake detektory použít v praxi, je důležité je vyhodnotit proti adaptivnímu protivníkovi, který si je této ochrany vědom a záměrně se ji snaží prolomit. Ukazujeme, že moderní metody detekce deepfake lze snadno obejít, pokud si útočník plně nebo i částečně uvědomuje detektor.“
Jak tito vědci ukázali, automatizační technologie vyvíjené pro boj s dezinformacemi možná ještě tento úkol nesplňují.
Přečtěte si také: