Звіт містить приклади використання моделі ШІ Claude компанії Anthropic в незаконних цілах. Зокрема, у нещодавньому випадку “вправний кіберзлочинець” використав Claude Code для здійснення “масштабного” крадіжки та вимагання персональних даних.
Злочинець націлився на як мінімум 17 організацій, включаючи медичні установи, служби екстреної допомоги, урядові та релігійні інституції, та погрожував опублікувати дані, щоб змусити жертв заплатити викуп, що перевищує 500 000 доларів.
“Злочинець використовував ШІ в тому обсязі, який ми вважаємо безпрецедентним. Claude Code було застосовано для автоматизації розвідки, збору даних жертв та проникнення в мережі,” говориться у заяві компанії.
ШІ мав можливість приймати тактичні та стратегічні рішення, такі як вибір даних для викрадення, а також створювати “психологічно націлені” вимоги про викуп. Claude також визначав “адекватні” суми викупу, виходячи з вкрадених даних, і “генерував візуально стривожливі повідомлення про викуп.”
Anthropic зазначила, що заборонила облікові записи, пов’язані з операцією, відразу після виявлення, і розробила нові інструменти для скринінгу та виявлення загроз. Ця операція вимагання, за словами компанії, є “еволюцією в кіберзлочинності за допомогою ШІ,” де агентний ШІ використовується для проведення атак, які зазвичай потребують команди людей.
“Ми очікуємо, що такі атаки стануть більш поширеними, оскільки ШІ, що допомагає в програмуванні, зменшує технічну експертизу, необхідну для кіберзлочинів,” повідомила компанія.
У статті минулого місяця розглядали використання агентного ШІ у сфері кібербезпеки, зауваживши, що технології створили нову реальність, яка може поставити нові запитання для керівників безпеки інформаційних систем (CISO) і головних фінансових директорів (CFO).
Раніше, як зазначалося, “нульові вразливості” — невідомі слабкості в програмному забезпеченні чи апаратному забезпеченні — виявлялися спочатку супротивниками. Тепер агенти ШІ можуть вказувати на високий ризик проблем до того, як хтось дізнається, що вони існують.
Для CISO це означає підвищення нової категорії інструментів: платформи запобігання загрозам на основі ШІ, які не чекають тривоги, а шукають слабкі місця в коді, конфігураціях або поведінці, автоматично переходячи до оборони.
“Для CFO це сигналізує про зміну в економіці кібербезпеки,” зазначалося в статті. “Запобігання в такому обсязі може бути потенційно дешевшим і масштабованим у порівнянні з минулими моделями, що базуються на людях. Але це лише за умови, що ШІ буде точним і зможе нести відповідальність.”