Технологичният гигант Microsoft стартира предварителна версия на услугата Copilot Health в САЩ, пренасяйки изкуствения интелект по-дълбоко в сферата на личните здравни данни.
Новият инструмент позволява на потребителите да свързват своите медицински досиета и информация от смарт устройства, да извличат данни за лабораторни резултати и да търсят медицинска помощ. Проектът обаче вече изправя ИТ лидерите пред сериозни въпроси относно границата между потребителските ИИ инструменти и корпоративните задължения за съвместимост.
Услугата е достъпна за потребители в САЩ на възраст над 18 години, които имат абонаменти за Microsoft 365 Personal, Family или Premium. От компанията изрично уточняват, че служебните профили нямат достъп до платформата.
По този начин тя се разграничава от търговските услуги на Microsoft 365 Copilot, които се продават с ангажименти за поверителност и съвместимост. Тази разлика е ключова, тъй като наскоро софтуерен бъг в комерсиалния Microsoft 365 Copilot обработи имейли, маркирани като поверителни.
В центъра на новия продукт е агрегирането на здравни данни. Чрез интеграция с HealthEx, системата се свързва с досиета от над 50 000 болници и доставчици на здравни услуги в САЩ. Тя поддържа лабораторни резултати от Function, данни от носими устройства чрез Apple Health и търсене на лекари по специалност, местоположение, език, пол и застрахователно покритие.
От Microsoft подчертават, че Copilot Health няма за цел да диагностицира, лекува или предотвратява заболявания и не замества професионалните медицински съвети. Въпреки че се съобщава за вътрешни тестове за безопасност и участие на лекари, до момента липсват публикувани външни и рецензирани доказателства за клинична точност.
Разговорите на потребителите с асистента са криптирани, отделени от общата платформа Copilot и няма да се използват за обучение на ИИ модели, реклама или продажба на застрахователи и работодатели.
Правната рамка също изисква прецизност, тъй като правилата на HIPAA (Закон за преносимост и отчетност на здравното осигуряване в САЩ) обикновено се прилагат за доставчици на медицински услуги и техните партньори. Потребителско приложение за лични данни не се превръща автоматично в клинична система под защитата на този закон. Според информация на The Verge, към момента технологичната компания не разполага с версия на Copilot Health, съвместима с HIPAA, и позиционира продукта изцяло като директна услуга за крайни клиенти.
Липсата на регулаторна обвързаност по HIPAA не намалява риска, тъй като здравните досиета, симптомите и застрахователните детайли остават изключително чувствителна информация.
За работодателите и застрахователите опасността се крие в това, че потребителите могат да разтълкуват погрешно ролята на инструмента или да пренебрегнат по-широки заплахи, като атаки за заразяване на подканите (prompt-injection).
Поради тази причина ИТ лидерите трябва ясно да дефинират дали потребителски ИИ инструменти могат да се използват с фирмени документи за обезщетения, трудова медицина или досиета на пациенти.
Тези правила трябва да бъдат част от по-широко управление на ИИ асистентите, включващо контрол на достъпа и сигурност на данните. Организациите в здравеопазването също така трябва да се подготвят за навлизането на генерирани от изкуствен интелект пациентски резюмета.
В защита на сигурността корпорацията цитира сертификация по стандарта ISO/IEC 42001 и външна експертна комисия от лекари. Този стандарт обаче урежда единствено системите за управление на изкуствения интелект, но не е доказателство за реална клинична точност в практиката.
В бъдеще предстои да се проследи появата на независими оценки за точността на инструмента, разширяването на интеграциите с други смарт устройства, евентуалното излизане на продукта извън пазара в САЩ, както и връзката му с клиничните ИИ продукти на компанията.
Дотогава организациите ще трябва сами да наложат ясни правила за работа със здравни данни, преди потребителският изкуствен интелект да стане масова част от поведението на служителите и пациентите.
Как те кара да се чувстваш тази история?
ПОСЛЕДВАЙ НИ В GOOGLE NEWS