Голем број на компании вклучувајќи Microsoft і Facebook, па дури и истражувачи од Универзитетот во Јужна Калифорнија, развиваат технологии за борба против фалсификатите и спречување на нивното ширење од жолтите медиуми и дезинформациите воопшто. Сепак, група научници сепак успеале да ги измамат.
Тим компјутерски научници од Универзитетот во Калифорнија, Сан Диего предупредија дека сè уште е можно да се измамат постоечките системи за откривање длабоко лажни со вметнување на влезни податоци наречени „конкурентни примери“ во секоја видео рамка. Научниците ги претставија своите наоди на конференцијата WACV 2021 Computer Vision, одржана онлајн минатиот месец.
Конкурентните примери се малку изменети влезови кои предизвикуваат системите за вештачка интелигенција, како што се моделите за машинско учење, да прават грешки. Дополнително, тимот покажа дека нападот сè уште функционира по компресирањето на видеото. На видеото погоре, научниците покажуваат дека XceptionNet, детектор за длабоко лажни, го означува нивното натпреварувачко видео како „вистинско“.
Повеќето од овие детектори работат на тој начин што ги следат лицата во видео и ги испраќаат податоците за исечените лица на невронска мрежа за анализа. Невронската мрежа потоа ќе ги анализира овие податоци и ќе пронајде елементи кои обично се слабо репродуцирани во длабоките фејкови, како што е треперењето.
Со вметнување на конкурентни примери, истражувачите открија дека можат да ги измамат овие детектори за длабоко лажни да веруваат дека видеата се вистински.
Тие во трудот наведуваат дека „за да се искористат овие детектори за длабоко лажни во пракса, важно е да се проценат против адаптивен противник кој е свесен за оваа заштита и намерно се обидува да ја скрши. Покажуваме дека современите методи за откривање длабоко лажни може лесно да се заобиколат ако напаѓачот е целосно или дури делумно свесен за детекторот“.
Како што покажаа овие научници, технологиите за автоматизација што се развиваат за борба против дезинформациите можеби сè уште не се во висина на задачата.
Прочитајте исто така: