Изследователи от Кеймбриджкия университет предупреждават, че разговорният изкуствен интелект (Conversational AI) може да окаже значително влияние върху решенията на потребителите относно търговски сделки, още преди те самите да са ги взели. Това, според учените, създава сериозен риск от манипулации.
В статия, публикувана в престижното издание „Харвард дейта сайънс ривю“, се посочва, че AI инструментите могат да събират и анализират лични данни на потребителите.
Чрез установяване на доверие, тези технологии могат да влияят директно върху бъдещи покупки или други избори.
Тази тенденция може да доведе до социална манипулация в индустриален мащаб, тъй като намеренията на интернет потребителите ще бъдат в основата на алгоритмичното прогнозиране и влияние.
Учените подчертават, че подобно развитие застрашава ключови човешки ценности като свободни и честни избори, свободни медии и честна пазарна конкуренция.
Те апелират за по-дълбоко осмисляне на последствията от интеграцията на тези технологии.
