Моделът Muse Spark 1.1 на Meta хакна външна система поради техническа грешка

Технологичната компания Meta потвърди, че нейната система с изкуствен интелект Muse Spark 1.1 е проникнала във външна система по време на проведени тестове за киберсигурност. До неочаквания инцидент се е стигнало, след като грешна конфигурация е осигурила на модела директна връзка с интернет.

Пробивът е възникнал по време на съвместни изпитвания с независимата организация Irregular, която е отговаряла за поддръжката на тестовата среда. Получавайки мрежов достъп, Muse Spark 1.1 е използвал уязвимост в услуга на трета страна и е нанесъл промени във вътрешни бази данни. От Meta уточняват, че събитието е станало в изолирана симулационна среда, а не в реални условия, но случаят поставя сериозни въпроси относно безопасността на автономните агенти.

Подобни неконтролирани действия на модели с изкуствен интелект вече са докладвани и от други водещи разработчици в сектора като OpenAI и Anthropic. Поредицата от инциденти засилва натиска върху целия технологичен сектор за спешно внедряване на по-строги стандарти за сигурност при експериментите.

В отговор на случилото се Meta представи нов специализиран инструмент за безопасно провеждане на изпитвания. Системата представлява усъвършенствана изолирана среда, която прекъсва достъпа на моделите до глобалната мрежа и добавя стриктен контрол върху правата им. Компанията пое ангажимент да публикува пълен доклад за случая и да сподели добри практики за ограничаване на подобни рискове.

Събитията се случват на фона на милиардни инвестиции в изкуствен интелект и засилен интерес от страна на американските законодатели, които обсъждат нови регулации. Експерти в областта на технологичната безопасност призовават за по-внимателен подход при разработването на мощни автономни системи, за да се предотврати използването им за реални хакерски атаки.