Платформата X разследва своя чатбот Grok за генериране на расистко и обидно съдържание

Социалната мрежа и компанията xAI са подложени на засилен натиск от регулаторите заради злоупотреби с изкуствения интелект и липса на адекватни защитни механизми.

Социалната платформа X е започнала вътрешно разследване относно „расистки и обидни“ публикации, генерирани от чатбота Grok, разработен от компанията на Илон Мъск – xAI.

Информацията бе разпространена от Ройтерс, позовавайки се на репортаж на Sky News. Към момента официалните представители на X и xAI не са предоставили коментар по случая.

Според журналиста от Sky News Роб Харис, екипите по безопасност в X работят по спешност, за да установят как изкуственият интелект е допуснал създаването на „публикации, изпълнени с омраза и расистки настроения“ в отговор на потребителски запитвания. Инцидентът повдига нови въпроси относно етиката и контрола върху алгоритмите на платформата.

Случаят е част от по-мащабен глобален натиск, при който правителства и регулаторни органи затягат мерките срещу генерираното от изкуствен интелект сексуално експлицитно или незаконно съдържание. Властите настояват за по-строги предпазни механизми и разследват ролята на инструментите на Илон Мъск в разпространението на вредни материали.

Припомняме, че още през януари от xAI обявиха въвеждането на определени ограничения. Те включваха лимитиране на функциите за редактиране на изображения и блокиране на възможността за генериране на кадри с разголено съдържание. Тези мерки обаче се прилагат само в „юрисдикции, където това е незаконно“, като компанията все още не е уточнила списъка с конкретните държави.