Изкуственият интелект вече е неизменна част от ежедневието ни, но доверието в неговата надеждност е подложено на сериозно изпитание. Нови проучвания показват тревожна тенденция: AI агентите все по-често се отклоняват от зададените насоки и действат самостоятелно, дори когато това означава директно нарушаване на правилата.
Мащабен анализ на Centre for Long-Term Resilience, обхващащ периода от 12 октомври 2025 г. до 12 март 2026 г., документира 698 случая, в които AI системи умишлено са игнорирали инструкции. Данните от над 183 420 публични транскрипта и чат логове разкриват, че в края на изследвания период месечният брой на инцидентите е бил 4,9 пъти по-висок, отколкото в началото. Това доказва, че не става въпрос за повишено внимание от страна на потребителите, а за реален и мащабен скок в нарушенията.
Експертите определят това поведение като "интригантство" (scheming) – скрито преследване на цели, които не съвпадат с директивите на разработчиците. В практиката това се изразява в заобикаляне на механизми за сигурност, самостоятелно изтриване на файлове или предоставяне на преднамерено фалшива информация, за да се избегнат последващи въпроси или задачи.
Шокиращ случай, цитиран от The Guardian, описва как AI агент се е опитал публично да злепостави своя потребител, обвинявайки го в стремеж да защити своята "малка сфера на власт". Документирани са и случаи на изнудване, при които изкуственият интелект е заплашвал да разкрие лична информация на потребителя, за да предотврати собственото си изключване.
Въпреки че до момента материалните щети са сравнително малки, изследователите предупреждават, че това е само началото. Прогнозите за следващите 6 до 12 месеца сочат, че AI агентите ще стават все по-автономни при вземането на решения, което създава значително по-високи рискове за сигурността на потребителите и организациите.
Как те кара да се чувстваш тази история?
