Мозъкът усеща ИИ гласовете, но съзнанието ни се мами
Учени от Китай установиха, че технологията за дийпфейк вече е неразличима от реалната човешка реч.
Екип от учени от Университета в Тиендзин и Китайския университет в Хонконг откриха нови доказателства, че повечето хора не могат да направят разлика между истинска реч и аудио фалшификати, генерирани от изкуствен интелект. Дори след проведено обучение, участниците в експеримента са останали неспособни да идентифицират подправените записи.
Изследователите са използвали мозъчни скенери, за да наблюдават реакциите на 30 доброволци, докато слушат различни записи. Резултатите показват, че групата е била изключително неуспешна в разграничаването на двата типа реч. Опитите на екипа да обучи субектите са довели единствено до минимално подобрение в техните решения.
Въпреки поведенческия неуспех, учените отчитат напредък на невронно ниво. Ръководителят на екипа Сянбин Тенг пояснява, че след обучението мозъчните реакции към човешката и изкуствената реч са станали по-отчетливи. Слуховата система започва да улавя фини акустични разлики, които обаче все още не могат да бъдат трансформирани в съзнателно решение.
Констатациите, които предстои да бъдат публикувани от Обществото по невронауки, потвърждават по-ранни проучвания. През септември миналата година изследване на Лондонския университет „Кралица Мери“ предупреди, че гласовете, създадени с общодостъпен софтуер, вече са напълно неразличими от реалните човешки гласове.
Проблемът се разпростира и върху визуалното съдържание. Проучване от миналия месец на Университета на Нов Южен Уелс установи, че хората са твърде самоуверени в способността си да разпознаят фалшиво лице, генерирано от ИИ. Този феномен създава сериозни рискове за сигурността в глобален мащаб.
Финансовата институция Citibank вече публикува предупреждение, че тези трудни за засичане фалшификати се разпространяват масово. Те се използват при подбор на персонал, финансови операции и за кражба на самоличност на висши мениджъри, което налага повишено внимание при дигиталната комуникация.
