Хакери од Русија, Кина и Иран спонзорирани од државата користеа алатки OpenAI за да ги усовршат своите вештини и хакерски напади. Како што е соопштено од Microsoft, експертите на компанијата следеа хакерски групи поврзани со руското воено разузнавање, Корпусот на Исламската револуционерна гарда, како и владите на Кина и Северна Кореја, кои се обидуваа да ги подобрат своите хакерски кампањи со помош на големи јазични модели.
Компанијата го објави откритието бидејќи воведе целосна забрана за хакерските групи поддржани од државата да ги користат нејзините производи со вештачка интелигенција. „Ние едноставно не сакаме оние ентитети што ги идентификувавме -- кои ги следиме и знаеме дека претставуваат закана од различни видови -- не сакаме да имаат пристап до оваа технологија“, рече потпретседателот. Microsoft за безбедност на клиентите Том Берт. Во извештајот се спомнуваат такви хакерски групи како Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon и Salmon Typhoon.
Тврдењата дека хакерите се фатени со користење на алатките ВИ за да ги подобри своите шпионски способности, ја нагласува загриженоста за брзото ширење на технологијата и нејзиниот потенцијал за злоупотреба. Западните експерти за сајбер безбедност минатата година предупредија дека криминалците злоупотребуваат такви алатки, иако досега немаше конкретни податоци за тоа.
„Ова е еден од првите, ако не и прв, случаи кога компанија со вештачка интелигенција јавно разговараше за тоа како напаѓачите користат технологии за вештачка интелигенција“, рече Боб Ротстед, шеф на разузнавањето за закани за сајбер безбедноста во OpenAI.
OpenAI тоа Microsoft ја опиша употребата на хакерите на нивните алатки за вештачка интелигенција како „рана фаза“ и „инкрементална“. Според Берт, ниту една компанија не видела кибер-шпиони да направат некаков пробив: „Ги видовме како тие едноставно ја користат технологијата како и секој друг корисник“.
Извештајот опишува хакерски групи кои користат големи јазични обрасци на различни начини. Хакерите, за кои се вели дека работеле во име на руската игра, ги користеле моделите за да истражат „разни сателитски и радарски технологии кои може да бидат релевантни за воените операции во Украина“, соопшти агенцијата. Microsoft. И севернокорејските хакери ги користеа моделите за да создадат содржина „најверојатно ќе се користи во кампањи за фишинг“.
Иранските хакери исто така се потпираа на моделите за да напишат поубедливи мејлови. И кинеските хакери, кои според нив се поддржани од државата Microsoft, експериментираат со големи јазични модели за да поставуваат прашања за конкурентни разузнавачки служби, прашања за сајбер безбедноста и „истакнати личности“.
Прочитајте исто така: