Білява ініціатива щодо створення регуляторних “пісочниць” для експериментів з штучним інтелектом (ШІ) у фінансових послугах стала основною темою слухань у підкомітеті Сенату в середу, де законодавці обговорювали, як забезпечити баланс між інноваціями на основі ШІ та наглядом.
Голова підкомітету Сенату з цінних паперів, страхування та інвестицій, сенатор Майк Раундс оголосив про повторне внесення законопроєкту “Відкриття інновацій ШІ у фінансових послугах”.
Цей законопроєкт, співавторами якого є сенатор Мартін Хайнріх, дозволить фінансовим установам тестувати продукти та послуги на базі ШІ без ризику негайних санкцій, якщо вони дотримуються вимог щодо прозорості, захисту споживачів і національної безпеки.
“Створивши безпечний простір для експериментів, ми можемо сприяти інноваціям у компаніях і навчити регуляторів, не застосовуючи застарілі правила, що не відповідають сучасним технологіям,” — зазначив Раундс. Законопроєкт було вперше представлено у 2024 році.
Якщо цей законопроєкт буде прийнято, S.4951 зобов’яже фінансових регуляторів, включаючи Комісію з цінних паперів і бірж, Управління з фінансового захисту споживачів і Федеральну резервну систему, оцінювати і, можливо, скасовувати або модифікувати чинні правила для схвалених тестових проєктів ШІ. Відповідні агентства матимуть 90 днів для затвердження або відхилення заявок, при цьому автоматичне затвердження відбудеться, якщо рішення не буде прийнято в установлені терміни.
На слуханнях законодавці з обох партій висловили бажання сприяти інноваціям, одночасно зменшуючи ризики, пов’язані з неконтрольованим прийняттям ШІ.
Сенатор Марк Уорнер нагадав про попередні слухання, на які були запрошені керівники провідних компаній у сфері ШІ. “Згадайте, що Шумер запитував: ‘Скільки з вас вважає, що ШІ потрібно регулювати?’ Усі підняли руки.”
Однак, говорячи про конкретні дії, “я турбуюся, що ми фактично рухаємося в зовсім протилежному напрямку,” — зауважив Уорнер. Наприклад, план дій щодо ШІ президента Трампа схилявся на користь дерегуляції.
Уорнер зазначив, що якби можна було повернути час назад, “багато з нас вважають, що якби у 2014 році ми встановили деякі обмеження на соціальні мережі, принаймні для захисту психічного здоров’я наших дітей, ми були б у кращій ситуації. Ми цього не зробили — а соціальні мережі є малими в порівнянні з потенціалом ШІ.”
Уорнер вказав на приклад компанії Delta Air Lines, яка тестує системи ШІ, що використовують дані окремих користувачів для підбору цін на авіаперевезення, що він назвав “ціновим моніторингом”. Він та ще двоє сенаторів висловили занепокоєння та надіслали листа до Delta з проханням надати додаткову інформацію.
Страхові компанії відмовляються покривати ризики ШІ
Кевін Калініч, глобальний лідер з нематеріальних активів у компанії Aon, зазначив під час слухань, що страхова індустрія починає реагувати на ризики, пов’язані з новими можливостями ШІ, включаючи помилки з генеруючими моделями, фейкові новини та автономних програмних агентів.
Проте, як зазначив Калініч, актуарні моделі не мають достатньої історичної інформації для точного оцінювання цих ризиків. Як наслідок, деякі страховики виключають ризики, пов’язані з ШІ, з політик професійної відповідальності та кіберстрахування.
Водночас “деякі прогресивні страхові компанії створили спеціальні страхові продукти для ШІ, хоча з обмеженими лімітами, недостатніми для великих клієнтів,” — повідомив Калініч.
Він зауважив, що страховики частіше пропонують вигідні умови, коли компанії мають сильну практику управління ШІ, включаючи задокументовані аудити моделей, метрики пояснюваності та протоколи зниження упередженості. “Добре управління веде до кращої страхуваності, що, в свою чергу, підтримує інновації і захист споживачів,” — сказав він.
Тал Коен, президент Nasdaq, описав, як ШІ вже покращує моніторинг ринку, зменшуючи кількість помилкових спрацьовувань та спрощуючи розслідування. На минулому тижні Nasdaq запустила власних AI-агентів для забезпечення відповідності і підвищення ефективності.
Перші два AI-агенти Nasdaq — цифровий аналітик санкцій та цифровий аналітик посиленої перевірки — були залучені до трудомістких завдань з дотримання нормативних вимог. Наприклад, у випадку цифрового аналітика санкцій, інтегрованого в робочий процес триажу банківських алерту, навантаження на перегляд було зменшено на понад 80%.
Крім ефективності, важливим є також стабільність. Раундс запитав Коена, які загрози з боку ворожих країн можуть спровокувати дестабілізацію фінансових ринків США, оскільки затримки, навіть у кілька мілісекунд, можуть підірвати довіру інвесторів.
Коен зауважив, що головний інформаційний безпековий офіцер Nasdaq не тільки використовує найсучасніші інструменти кібербезпеки на базі ШІ, але також координує захист з колегами в індустрії. “Це не є конкурентною складовою для нас щодо інших бірж,” — сказав він. “Ми ділимося і співпрацюємо.”
Однак, коли його запитали, чи існує формальний міжвідомчий робочий орган для вирішення ризиків, пов’язаних із ШІ, Коен відповів: “Нам потрібен такий. Ми повинні обговорити це.”
Крім того, відповідальність, що виникає внаслідок інцидентів, пов’язаних із ШІ, буде “поділена,” додав Коен.
Девід Кокс, віце-президент з моделей ШІ в IBM Research, зазначив, що відкритий підхід у розробці ШІ є важливим для формування довіри.
“Ми щиро віримо в цінність відкритого коду ШІ. Це підвищує безпеку, довіру та співпрацю через прозорість, дозволяє малим компаніям і дослідницьким організаціям конкурувати без обтяжливих початкових капіталовкладень та розширює перспективи для майбутніх талантів,” — сказав Кокс.
Великі мовні моделі (LLMs) повинні бути доступні для аудиту, особливо в регульованих середовищах.
“Компанії повинні чітко розуміти, які дані підпорядковуються їхнім моделям, і мати можливість перевіряти ці системи протягом певного часу,” — сказав Кокс, додавши, що небагато розробників моделей розкривають свої навчальні набори даних, що ускладнює дотримання вимог.
Сенатор Кеті Браун висловила занепокоєння щодо шахрайства на основі підроблених особистостей, зазначивши, що фінансове шахрайство, яке викликане генеративним ШІ, зросло на 148% в рік. Вона також запитала Коена про торгівельних роботів і ризик AI-систем прийняття рішень для цілісності ринку. Коен зазначив, що будь-яка регульована компанія матиме на місці “належні контролі”.
На думку учасників слухань, загалом існує широке визнання того, що нинішні регуляції недостатні.
Уорнер зазначив, що Китай більше не просто копіює технології, але й сам розробляє нові. “Це змінилося,” — сказав він. “Китай не грає на друге місце в гонці за ШІ.”
Браун додала: “Це гонка, яка має значення.”
Детальніше читайте:
Каліфорнія просуває закон, що регулює AI-асистентів через занепокоєння про проблеми психічного здоров’я
Регулювання ШІ викликає затоплення лобістських зусиль в Вашингтоні
Сенат відхилив 10-річний мораторій на державні регулювання ШІ