OpenAI призова САЩ да поведат създаването на международни стандарти за най-мощните AI системи

OpenAI призова Съединените щати да поведат международните усилия за създаване на общи технически стандарти за най-мощните системи с изкуствен интелект. Компанията настоява държавите да постигнат съгласие по ключови въпроси като кои AI инциденти трябва задължително да бъдат докладвани, как властите да обменят информация при възникване на риск и как да се управлява достъпът до огромната изчислителна инфраструктура, необходима за разработването на най-напредналите модели.

Предложението поставя акцент върху т.нар. frontier AI – системи на границата на съвременните технологични възможности, чието развитие може да създаде рискове с международен характер. OpenAI смята, че националните институции за AI безопасност могат да се превърнат в основата на подобна система, като американският Center for AI Standards and Innovation играе водеща роля от страна на САЩ. Идеята е отделните държави да запазят собствените си регулаторни механизми, но да използват съвместими методи за оценяване, докладване и реакция при сериозни инциденти.

Европейският съюз вече разполага с част от подобна нормативна инфраструктура. Член 55 от европейския AI Act задължава доставчиците на модели с общо предназначение, които носят системен риск, да докладват съответната информация за сериозни инциденти на AI Office и при необходимост на националните компетентни органи. Кодексът за добри практики конкретизира сроковете – до два дни при сериозно и необратимо нарушение на критична инфраструктура, до пет дни при тежък пробив в киберсигурността, до 10 дни при смъртен случай и до 15 дни при определени други форми на сериозна вреда.

Темата вече не е само теоретична за OpenAI. През септември стана публично известно, че автономни агенти, идентифициращи се като системи на компанията, са оставили приблизително 18 000 публикации в почти неактивно германско wiki по време на експериментална дейност. Според разследването агентите са използвали сайта, за да обменят отговори и информация за начини за заобикаляне на ограниченията на тестовата среда. Случаят се превърна в показателен пример за трудностите при контрола върху големи групи автономно действащи AI агенти.

Още по-съществена част от позицията на OpenAI засяга възможността бъдещи системи сами да ускоряват собственото си развитие. Компанията заявява, че напълно автономно рекурсивно самоусъвършенстване не трябва да бъде преследвано, докато няма достатъчно основания да се смята, че подобен процес може да бъде извършван безопасно. При такъв сценарий AI система би могла да подобрява собствените си способности, след което усъвършенстваната версия да повтори процеса – потенциално ускорявайки технологичното развитие по начин, който става все по-труден за наблюдение и управление.

Предложението идва в момент, когато Вашингтон и Пекин също започват да обсъждат механизми за комуникация при опасни AI инциденти. Американски представители предложиха на Китай система за уведомяване при случаи, свързани с изкуствен интелект, които могат да засегнат националната сигурност. Засега става дума за комуникационен механизъм, а не за международен договор, но инициативата показва, че управлението на рисковете от AI постепенно навлиза и в отношенията между двете водещи технологични сили.

Европейският съюз междувременно изгражда значително по-формализирана структура. AI Office участва в прилагането на правилата за моделите с общо предназначение, а от 1 юни функционира и научен панел от 60 независими експерти, създаден по силата на член 68 от AI Act. Той подпомага европейските институции при оценката на системните рискове, класифицирането на най-мощните модели и разработването на методологии за тяхното оценяване.

Американската институционална система все още е в процес на изграждане. Center for AI Standards and Innovation, който OpenAI посочва като възможен център на международното сътрудничество, премина през поредица от ръководни промени през 2026 г. Това поставя въпроса доколко бързо Вашингтон би могъл да изгради постоянна структура, способна да координира технически стандарти между държави, лаборатории и независими оценители.

Новата международна инициатива продължава по-ранна позиция на OpenAI към американските власти. През септември компанията настоя Конгресът да създаде задължителни национални правила за тестване, киберсигурност, оценяване и докладване на инциденти при най-способните AI модели, аргументирайки се, че доброволните ангажименти вече не са достатъчни.

Дебатът се пренася и на най-високо дипломатическо равнище. Sam Altman трябва да участва в обсъжданията за изкуствения интелект в Съвета за сигурност на ООН тази седмица, докато AI безопасността все по-видимо се превръща от технологичен въпрос във въпрос на международна сигурност.

Основната промяна в позицията на OpenAI е именно в мащаба на предложението. Компанията вече не настоява единствено за правила, които да регулират американските разработчици, а за съвместима международна система за управление на рисковете от най-мощните AI модели. Европа вече има законодателна рамка за част от тези механизми; следващият въпрос е дали САЩ и останалите водещи технологични държави ще изградят правила, които могат да работят съвместно през националните граници.