OpenAI въвежда Trusted Contact за превенция на самоубийствата

Технологичният гигант OpenAI представи официално новата си функция Trusted Contact, насочена към подобряване на безопасността на потребителите в риск.

Инструментът позволява на всеки потребител на ChatGPT да посочи пълнолетно лице, което да бъде уведомено в случай на сериозни индикации за самонараняване или самоубийство по време на разговор с чатбота.

Решението идва след засилен правен и обществен натиск върху компанията, включително съдебни дела за неправомерна смърт и разследвания от страна на щатски органи в САЩ.

Функцията е изцяло по избор и е разработена с участието на експерти от Американската психологическа асоциация. Когато автоматизираните системи за мониторинг на OpenAI засекат опасни намерения, специално обучен екип от хора преглежда случая.

При потвърждение на риска, системата изпраща кратко известие по имейл или текстово съобщение до доверения контакт. Важно е да се отбележи, че компанията не споделя детайли или транскрипти от разговорите, а само насърчава близкия човек да се свърже с потребителя и предоставя насоки за провеждане на деликатни разговори.

За да бъде активирана опцията, избраният контакт трябва да приеме поканата в рамките на една седмица, като не е задължително той да има собствен профил в ChatGPT. Потребителите запазват пълна автономност и могат да променят или премахват своите доверени лица по всяко време през настройките на приложението.

Целта на OpenAI е да изведе изкуствения интелект от изолация и да го превърне в инструмент, който свързва хората с реална грижа и ресурси в критични моменти.

Нововъведението е пряк отговор на обвиненията, че платформите с изкуствен интелект не винаги реагират адекватно на психологически дистрес. Главният изпълнителен директор на Американската психологическа асоциация, д-р Артър Еванс, подчерта, че предварителното идентифициране на доверен човек улеснява търсенето на подкрепа в реалния свят, когато това е най-важно.

Докато OpenAI продължава да развива своите мерки за сигурност, функцията Trusted Contact се разглежда като ключова стъпка към по-отговорно управление на рисковете, свързани с психичното здраве в дигиталната ера.