Mitmed ettevõtted, sealhulgas Microsoft і Facebookja isegi Lõuna-California ülikooli teadlased töötavad välja tehnoloogiaid, et võidelda süvavõltsingute vastu ja takistada nende levikut kollase meedia ja valeinformatsiooni kaudu üldiselt. Rühm teadlasi suutis neid siiski petta.
San Diego California ülikooli arvutiteadlaste meeskond hoiatas, et olemasolevaid süvavõltsingute tuvastamise süsteeme on endiselt võimalik petta, sisestades igasse videokaadrisse sisendandmeid, mida nimetatakse "konkureerivateks näideteks". Teadlased tutvustasid oma tulemusi eelmisel kuul veebis peetud WACV 2021 arvutinägemise konverentsil.
Konkureerivad näited on veidi muudetud sisendid, mis põhjustavad tehisintellektisüsteemides, näiteks masinõppemudelites, vigu. Lisaks näitas meeskond, et rünnak töötab ka pärast video tihendamist. Ülaltoodud videos näitavad teadlased, et sügavvõltsingudetektor XceptionNet märgib nende konkureeriva video "päris".
Enamik neist detektoritest jälgib nägusid videos ja saadab kärbitud näoandmed analüüsimiseks närvivõrku. Seejärel analüüsib närvivõrk neid andmeid ja leiab elemendid, mis on tavaliselt sügavates võltsingutes halvasti reprodutseeritud, nagu näiteks virvendus.
Konkureerivaid näiteid lisades leidsid teadlased, et nad võivad petta need sügavvõltsingudetektorid uskuma, et videod on tõelised.
Nad märgivad dokumendis, et "nende sügavvõltsimisdetektorite praktikas kasutamiseks on oluline neid hinnata adaptiivse vastase suhtes, kes on sellest kaitsest teadlik ja üritab seda tahtlikult murda. Näitame, et kaasaegsetest süvavõltsingute tuvastamise meetoditest saab hõlpsasti mööda minna, kui ründaja on detektorist täielikult või isegi osaliselt teadlik.
Nagu need teadlased on näidanud, ei pruugi desinformatsiooni vastu võitlemiseks väljatöötatavad automatiseerimistehnoloogiad veel oma ülesannetega toime tulla.
Loe ka: