Бивш изследовател на Google DeepMind: ИИ има потенциала „да убие всички ни“

Бившият изследовател на Google DeepMind Bilal Chughtai отправи едно от най-категоричните предупреждения досега от човек, работил непосредствено върху безопасността на напредналия изкуствен интелект. Той заяви, че вярва, че ИИ има потенциала „да убие всички ни“ и че времето за предотвратяване на подобен сценарий може да намалява. Предупреждението му обаче представлява оценка за бъдещ риск, а не доказателство, че съществуващите днес системи са способни да унищожат човечеството.

Bilal Chughtai съобщи на 14 септември, че наскоро е напуснал Google DeepMind, където е работил като изследователски инженер по безопасността на изкуствения общ интелект – AGI – и по т.нар. alignment, или съгласуване на поведението на системите с човешките цели и намерения.

Chughtai е напуснал компанията през юли 2026 г. и впоследствие е започнал работа в неправителствената организация BlueDot Impact, която се занимава с обучение и подготовка на специалисти в областта на безопасността на изкуствения интелект.

В публичното си изявление той посочва, че е наблюдавал развитието на най-напредналите AI системи непосредствено по време на работата си в Google и е „изключително обезпокоен“ от посоката, в която технологията се движи.

Според него основният проблем не е непременно сегашното поколение чатботове, а възможността в близките години да бъдат създадени системи, значително по-способни от хората, преди изследователите да разполагат с надеждни методи за контрол върху тях.

Това е съществено разграничение. Предупреждението не означава, че ChatGPT, Gemini, Claude или друг съществуващ модел в момента може самостоятелно да предизвика човешко изчезване. Става дума за хипотетичен бъдещ сценарий, свързан със създаването на много по-мощен и автономен изкуствен интелект.

Сред най-големите опасения на изследователите в тази област е появата на самоусъвършенстващ се суперинтелект – система, която може да подпомага създаването на собствените си наследници или да ускорява изследванията, необходими за разработването на все по-способни модели.

Ако подобен процес започне да се развива по-бързо, отколкото хората могат да го наблюдават и контролират, според привържениците на тази теория може да се стигне до ситуация, при която човечеството губи ефективен контрол върху технологията.

Chughtai не твърди, че катастрофалният сценарий е неизбежен. Напротив – според него безопасното развитие на изкуствения интелект все още е възможно, но ще изисква координация между компаниите и забавяне на темпото, с което се създават все по-мощни модели.

Той призовава развитието на ИИ да бъде приведено до скорост, с която обществото, регулаторите и специалистите по безопасност могат да се справят, така че нововъзникващите рискове да бъдат идентифицирани и ограничавани, преди да причинят тежки последствия.

Особено опасна според него е надпреварата между водещите AI компании, при която всяка организация има силен икономически и стратегически стимул да достигне следващото технологично ниво преди конкурентите си.

Предупреждението на Chughtai не е изолиран случай.

Само дни по-рано изследователят Jacob Coxon напусна Anthropic, след като преди това е работил и в OpenAI. Той обвини водещите компании, че се състезават към създаването на самоусъвършенстващ се суперинтелект, въпреки че част от хората вътре в индустрията приемат сериозно възможността подобна технология да има катастрофални последствия.

Друг изследовател на Anthropic – Evan Hubinger – заяви, че според личната му оценка вероятността ИИ да доведе до гибелта на човечеството през следващото десетилетие е над 10%.

Това число не представлява статистически установена вероятност или научен консенсус. То е субективна експертна оценка и трябва да бъде разглеждано именно като такава.

Новата вълна от предупреждения вече достигна и до ръководствата на най-големите компании.

Главният изпълнителен директор на Anthropic Dario Amodei призова индустрията да забави развитието на най-напредналите AI системи, така че мерките за безопасност да получат време да настигнат увеличаващите се способности на моделите.

Сред предложенията му са по-сериозно независимо тестване, достъп на външни оценители до системите, по-голяма прозрачност при инциденти и координация между водещите лаборатории.

Призивът получи подкрепа и от конкуренти в индустрията, което е необичайно на фона на ожесточената технологична и икономическа надпревара около изкуствения интелект.

Дебатът се изостря и заради нарастващите способности на т.нар. AI агенти – системи, които не само генерират текст или изображения, а могат да изпълняват поредица от действия, да използват инструменти, да пишат и изпълняват код и да взаимодействат с други цифрови системи.

Google DeepMind също публично признава необходимостта от нови механизми за защита срещу все по-способни и несъвършено съгласувани AI агенти. Компанията разработва многослойни подходи за сигурност, включващи защита на отделните агенти, системите с множество агенти и инфраструктурата, в която те работят.

Самият Bilal Chughtai е посочен сред хората, допринесли за работата на Google DeepMind по подобни въпроси, което придава допълнителна тежест на факта, че предупреждението му идва от специалист, занимавал се именно с проблемите на AI безопасността.

В същото време твърдението, че изкуственият интелект може да унищожи човечеството, не е безспорно прието заключение в научната общност.

Съществува сериозен спор както за вероятността някога да бъде създаден неконтролируем суперинтелект, така и за времевия хоризонт, в който подобна технология би могла да се появи.

Част от учените и специалистите смятат екзистенциалния риск за достатъчно сериозен, за да оправдае незабавни предпазни мерки. Други предупреждават, че фокусирането върху сценарии за човешко изчезване може да отклонява вниманието от вече съществуващите проблеми – киберпрестъпност, дезинформация, измами, загуба на работни места, алгоритмична дискриминация и концентрация на икономическа и политическа власт.

Затова изявлението на Chughtai не трябва да се представя като доказателство, че „ИИ ще унищожи човечеството“.

По-точното заключение е, че човек, работил непосредствено върху безопасността на най-напредналите системи в Google DeepMind, смята риска от бъдещ неконтролируем ИИ за достатъчно реален, за да напусне компанията и публично да настоява за забавяне на технологичната надпревара.

И фактът, че подобни предупреждения вече идват не само от външни критици, а и от изследователи и ръководители на водещи AI лаборатории, превръща въпроса за контрола върху бъдещия изкуствен интелект в един от най-сериозните технологични и политически дебати на 2026 г.