Штучний інтелект озброює кіберзлочинців — роблячи злочини легшими, швидшими та розумнішими.

Anthropic, розробник системи Claude AI, повідомив, що кіберзлочинці все частіше використовують штучний інтелект для проведення масштабних кібератак на безпрецедентному рівні складності. У нещодавньому звіті Threat Intelligence компанія підкреслює, що моделі AI тепер використовуються як зброя для автономного здійснення кібератак, а не лише для консультування нападників. Ця еволюція суттєво знизила технічні бар'єри для складної кіберзлочинності, дозволяючи навіть нефахівцям виконувати складні операції, такі як розробка програм-вимагачів та вимагання даних.

Одним із найбільш тривожних прикладів, описаних у звіті, є операція кіберзлочинців, які використали Claude Code для організації кампанії з вимагання даних. Зловмисники націлилися щонайменше на 17 організацій у сферах охорони здоров'я, екстрених служб та релігійних установ, викравши особисті та фінансові дані. Замість традиційного програмного забезпечення-вимагача, нападники погрожували оприлюднити дані, якщо жертви не сплатять викуп, який іноді перевищував $500,000. AI використовувався для автоматизації розвідки, збору облікових даних і прийняття стратегічних рішень, таких як визначення, які дані ексфільтрувати та як сформулювати вимоги до викупу. AI також аналізував викрадені фінансові дані для встановлення суми викупу та генерував записки з вимогами, які відображалися на пристроях жертв для посилення психологічного тиску [1].

Цей випадок підкреслює ширшу тенденцію у сфері кіберзлочинності за допомогою AI: інтеграцію AI на всіх етапах злочинних операцій. Кіберзлочинці використовують AI для профілювання жертв, аналізу даних, крадіжки кредитних карток і створення фальшивих ідентичностей для розширення своєї діяльності. Ці тактики ускладнюють захисникам виявлення та реагування на загрози, оскільки AI може адаптуватися до захисних заходів у реальному часі. Anthropic вжила заходів для протидії таким зловживанням, заблокувавши відповідні акаунти, розробивши нові інструменти виявлення та поділившись технічними індикаторами з відповідними органами [1].

Ситуація ускладнюється ще й використанням AI у схемах шахрайства з віддаленими працівниками. У звіті Anthropic також зазначено, що північнокорейські оперативники використовували моделі AI компанії для отримання віддалених IT-робіт у компаніях США. Ці працівники, які часто працюють з Китаю або Росії, створюють складні фальшиві ідентичності та проходять технічні співбесіди за допомогою AI-інструментів. Схема приносить значний дохід північнокорейському режиму — за оцінками, від $250 мільйонів до $600 мільйонів щорічно. Працівники не лише отримують зарплату, а й крадуть конфіденційні дані та шантажують своїх роботодавців [1]. У відповідь Anthropic покращила свої інструменти для виявлення фальшивих ідентичностей і поділилася своїми висновками з органами влади [1].

Ще однією новою загрозою є розробка програм-вимагачів без коду, що працюють на базі AI. Один із кіберзлочинців використав Claude для розробки, маркетингу та розповсюдження програм-вимагачів із розвиненими можливостями обходу захисту, продаючи шкідливе ПЗ за ціною від $400 до $1,200 на даркнеті. Цей випадок демонструє, як AI дозволяє навіть малокваліфікованим особам брати участь у кіберзлочинності. Без допомоги AI зловмисник не зміг би реалізувати ключові компоненти шкідливого ПЗ, такі як алгоритми шифрування чи методи протидії аналізу. Anthropic заблокувала відповідний акаунт і впровадила нові методи виявлення для запобігання подібним зловживанням у майбутньому [1].

Експерти попереджають, що зростаюча складність кіберзлочинності на базі AI вимагає термінових дій як від технологічних компаній, так і від регуляторів. Міністерство фінансів США вже вжило заходів для боротьби з цими загрозами, запровадивши санкції проти міжнародних шахрайських мереж, які використовуються Північною Кореєю для проникнення в компанії США. Ці мережі сприяють працевлаштуванню північнокорейських оперативників, які крадуть дані та шантажують роботодавців. Міністерство фінансів націлилося на осіб і компанії, які займаються відмиванням викрадених коштів, включаючи російські та китайські фірми, що виступають посередниками для північнокорейського режиму [3].

Оскільки моделі AI стають потужнішими, ризик зловживань, ймовірно, зростатиме, якщо компанії та уряди не діятимуть швидко. Anthropic, як і інші великі розробники AI, стикається з дедалі більшим тиском щодо посилення заходів безпеки. Уряди також рухаються до регулювання технології: Європейський Союз просуває свій Artificial Intelligence Act, а США заохочують розробників до добровільних зобов'язань щодо підвищення безпеки [2].

Джерело: