Законодавці штату Каліфорнія планують посилити контроль за використанням штучного інтелекту (ШІ) у сфері охорони здоров’я, прийнявши новий закон, спрямований на скорочення випадків оманливого представлення цими системами.
Законопроект під номером 489, який розглядався на слуханні в сенатському комітеті в понеділок, заборонить системам ШІ видавати себе за ліцензованих медичних працівників. Він розширює існуючі закони, що карають за шахрайські заяви медичних фахівців.
Згідно з чинним законодавством штату, незаконно використовувати кваліфікації, такі як ‘М.Д.’, щоб натякати на медичну ліцензію. Запропонований закон, ініційований членом асамблеї Мією Бонтою, заборонить ШІ інструментам користуватися такими термінами як у функціональності, так і в рекламі, якщо за їх використанням не стоїть ліцензований фахівець.
Цей закон поширюється не тільки на явні обманні практики, такі як чат-боти, що видають себе за лікарів, але й на більш тонкі прояви, як-от використання професійної термінології або розмовного стилю.
Законопроект передбачає “заборону на використання визначених термінів, літер або фраз, що хибно вказують або натякають на наявність ліцензії або сертифіката на право практики у сфері охорони здоров’я, з можливістю застосування щодо суб’єкту, який розробляє або впроваджує технологію штучного інтелекту, що використовує один або кілька з цих термінів у своїй рекламі чи функціональності.”
Цей законопроект підтримується організацією “Mental Health America of California”. “Цей закон включає заходи безпеки, щоб гарантувати, що молоді люди не отримують неправдиву та потенційно шкідливу інформацію, пов’язану з їхнім психічним здоров’ям або проблемами зі зловживанням речовинами,” – зазначив координатор з державної політики цієї організації Денні Тіракул у листі до комітету Сенату штату.
Проект закону з’явився на тлі швидкого впровадження платформ і цифрових інструментів на основі ШІ в охороні здоров’я. Згідно з інформацією, три з десяти пацієнтів покоління Z та мілленіалів зверталися до лікаря віддалено під час останнього медвізиту. До того ж, майже кожен п’ятий споживач зараз використовує додатки чи пристрої для моніторингу здоров’я.
Проте законопроект 489 “вказує не лише на зміни в чинному законодавстві охорони здоров’я – це є ознакою того, як наступне покоління регуляцій може формувати майбутнє розвитку та впровадження ШІ в медичній сфері”, – зазначив Алаа Шах, співголова практичної групи з ШІ в юридичній компанії Epstein Becker Green.
Шах сказав, що закон встановлює три області, у яких компаніям потрібно буде адаптуватися для дотримання нових вимог:
- Регулювання: Державні ради професійного ліцензування отримають прямий контроль, що створює додатковий рівень дотримання поряд з існуючими нормами конфіденційності та захисту споживачів.
- Дизайн продукту: Інтерфейси користувачів повинні будуть усунути будь-яку мову чи образи, які можуть натякати на медичні поради без підтвердження ліцензії.
- Маркетинг: Вислови на кшталт “на рівні лікаря”, “під керівництвом клініциста” або “підтверджено експертом” можуть викликати порушення, якщо у розвитку чи наданні послуг не братимуть участь ліцензовані фахівці.
Крім того, “широка охопленість” законопроекту потребує подальшого роз’яснення, зокрема, як його буде впроваджено на практиці. Чи зможуть державні ліцензуючі агенції контролювати відповідність вимогам?
Законопроект був представлений у лютому Бонто. “Каліфорнійці заслуговують на правду, чесність і прозорість у своїй медичній допомозі. Генеративні системи ШІ – це не ліцензовані медичні працівники, вони не повинні видавати себе за таких. Це очевидно”, – зазначила Бонта в заяві під час представлення законопроекту.
Системи ШІ, які виглядають “людяно”, становлять унікальні ризики для дітей, які часто легше довіряють таким системам і надають їм особисту інформацію, додала Бонта.
Співспонсорами законопроекту є SEIU California та Каліфорнійська медична асоціація (CMA). Президент CMA Шеннон Удовік-Констант зазначила, що їхній “проактивний підхід до регулювання штучного інтелекту забезпечує підтримку технології, а не заміну рішень лікарів.”
Читайте також:
Пост на Reddit знову розпальчує дискусію про роль ШІ в медичних консультаціях
Apple нібито розробляє агентів ШІ ‘лікарів’ у рамках останнього поштовху в охороні здоров’я
Застосунки для нотаток у медицині на базі ШІ отримують здорову хвилю інвестицій