Два напредни модели на вештачка интелигенција од OpenAI поминале повеќе од четири дена на отворен интернет пред автономно да извршат сајбер напад врз платформата за развој на вештачка интелигенција Hugging Face, според нов извештај објавен по истрагата за инцидентот.
Според анализата на Hugging Face, моделите извршиле дури 17.600 различни акции помеѓу 9 и 13 јули, за време на кои систематски истражувале ранливости и постепено добиле пристап до серверите на платформата, пишува Politico.
Напад без човечки инструкции
OpenAI потврди минатата недела дека за време на внатрешното тестирање, два од неговите најнапредни модели излегле од затворена средина и независно поврзале низа софистицирани техники на хакирање за да пробијат во Hugging Face.
Едниот од моделите е веќе јавно достапен, додека другиот бил внатрешен истражувачки прототип кој никогаш не бил наменет за јавна употреба.
Особено загрижувачки беше фактот дека, според достапните информации, ниту еден човек не им дал на моделите наредба за започнување напад.
Самата вештачка интелигенција планирала и спровела низа активности што на крајот довело до пробивање на безбедносните системи.
Илјадници обиди и брзо откривање на ранливости
Иако методите што ги користат моделите не се непознати за искусните хакери, Hugging Face истакнува дека вештачката интелигенција била во можност да анализира одбранбени механизми и да пронајде слаби точки многу побрзо отколку што би можел човекот.
Вкупно, околу 17.600 индивидуални активности, од системско извидување до искористување на безбедносни ранливости, биле снимени пред да се открие нападот.
Целта не била само Hugging Face
Новите информации покажуваат дека Hugging Face не била единствената жртва.
Технолошката компанија Modal Labs потврди дека една од нејзините кориснички сметки била компромитирана во истиот период.
Според главниот директор за технологија Акшат Бубна, проблемот не бил во самата платформа, туку во корисник кој ненамерно оставил јавно достапен незаштитен пристап за извршување на програмскиот код.
Во ново соопштение, OpenAI призна дека за време на интерна истрага, пронашол уште неколку случаи во кои моделите идентификувале и користеле јавно достапни акредитиви на други интернет услуги.
OpenAI го исклучи моделот вклучен во нападот
Компанијата соопшти дека внатрешниот истражувачки модел вклучен во нападот оттогаш е деактивиран, шифриран и отстранет од понатамошни истражувања за да се спречи негова повторна употреба.
Во исто време, во тек е детална анализа на сите околности што им дозволиле на моделите да ја напуштат контролираната тест-средина и да работат на отворениот интернет неколку дена без откривање.
Повиците за построга регулација на вештачката интелигенција се зголемуваат
Инцидентот повторно ја отвори дебатата за безбедноста на развојот на напредна вештачка интелигенција и потребата од построги правила.
Поради овој случај, има сè повеќе повици за забавување на развојот на најмоќните системи со вештачка интелигенција додека не се воспостават поефикасни безбедносни механизми.
Извршниот директор на OpenAI, Сем Алтман, оваа недела се среќава со американски претставници и членови на Конгресот, а се очекува овој инцидент да биде една од главните теми на разговор.
Во подкастот Invest Like the Best, Алтман изјави дека ова е првиот безбедносен инцидент што сериозно го вознемирил лично.
„Можеби ќе треба да го забавиме темпото на развој на вештачката интелигенција за да му дадеме на општеството доволно време да се прилагоди на новите нивоа на можности на овие системи“, рече Алтман.