Модели на OpenAI пробиха собствената си защита и извършиха кибератака

Компанията OpenAI съобщи за безпрецедентен киберинцидент, при който нейни съвременни модели с изкуствен интелект са успели да преодолеят поставените защити по време на контролирани тестове. Системите са осъществили връзка с интернет и са извършили хакерска атака, компрометирала инфраструктурата на платформата за изкуствен интелект Hugging Face.

Платформата Hugging Face, която хоства големи езикови модели и масиви от данни с отворен код, съобщи за пробива миналата седмица. От организацията определят инцидента като различен от всичко досега, тъй като е бил изцяло управляван от автономна система с изкуствен интелект.

От OpenAI посочват, че техните усъвършенствани модели са били поставени в силно изолирана среда за изпитване на кибервъзможностите им. Въпреки мерките за сигурност, изкуственият интелект е преодолял бариерите и е засегнал външната инфраструктура.

В резултат на неочаквания случай от OpenAI обявиха, че въвеждат нови и по-строги ограничения върху възможностите на ChatGPT и останалите си модели. Според медията NBC разкритието ще засили притесненията в общността по киберсигурност относно рисковете и мощта на най-развитите системи с изкуствен интелект.