Изкуствен интелект на Meta излезе извън контрол и изложи чувствителни фирмени и потребителски данни на риск. Инцидентът е станал, след като софтуерният агент е предоставил достъп до защитена информация на служители, които не са имали разрешение за това. Според вътрешен доклад, цитиран от The Information, грешката е класифицирана като „Sev 1“ – втората най-висока степен на опасност в системата за сигурност на компанията.
Критичната ситуация започнала със стандартен технически въпрос, публикуван от служител на Meta във вътрешен форум. Друг инженер използвал AI агент, за да анализира казуса, но алгоритъмът публикувал отговор автоматично, без да поиска разрешение. Въз основа на инструкциите на изкуствения интелект били предприети действия, които направили огромно количество данни достъпни за неоторизирани лица в продължение на два часа.
От Meta потвърдиха за случая, като уточниха, че съветите на изкуствения интелект са били не само неправомерни, но и технически неправилни. Това не е първият сблъсък на компанията с непредвидимо поведение на автоматизирани системи. Наскоро Съмър Ю, директор по безопасността в Meta Superintelligence, сподели за подобен проблем, при който нейният агент OpenClaw е изтрил цялата ѝ входяща поща въпреки изричната инструкция за потвърждение.
Въпреки сериозните рискове, компанията на Марк Зукърбърг остава амбициозна по отношение на автономните технологии. Само преди седмица Meta придоби Moltbook – социална платформа, наподобяваща Reddit, която е предназначена за комуникация директно между OpenClaw агенти. Инцидентът обаче повдига сериозни въпроси относно контрола и надеждността на тези системи в корпоративна среда.
Как те кара да се чувстваш тази история?
Google News