ChatGPT та аналоги спрощують життя кіберзлочинцям

Генеративний штучний інтелект знижує бар’єр входу у кіберзлочинність, дозволяючи навіть новачкам швидко писати шкідливий код та переконливі фішингові електронні листи, а також виконувати інші підготовчі дії для атак програм-вимагачів (шифрувальників). Такого висновку дійшли фахівці компанії Cybersixgill на основі аналізу тенденцій підпільного дискурсу та діяльності кіберзлочинців у Даркнеті.

Наприкінці листопада 2022 року OpenAI випустив ChatGPT – представника нового покоління чат-ботів на базі штучного інтелекту, розширеної обробки природної мови (NLP) і методів машинного навчання (ML). Попередньо навчена на великій компіляції текстових даних з Інтернету, модель ChatGPT має широке розуміння структури та контексту природної мови й здатна генерувати зв’язний текст, схожий на написаний людиною.

Через це ChatGPT привернув широку увагу не тільки журналістів та дослідників, а й у кіберзлочинців. Оскільки має значний потенціал у сфері автоматизації завдань розробки програмного забезпечення, аналітики даних, прогнозного моделювання, мовного перекладу, творчого письма, освітніх технологій тощо. На підпільних форумах одразу ж з ентузіазмом почали обговорювати різні варіанти монетизації можливостей ChatGPT.

Наприклад, здатність ChatGPT переконливо імітувати людську мову робить його зручним інструментом соціальної інженерії – важливої частини арсеналу кіберзлочинців. Попри те, що шахраї іноді успішно ловлять на гачок довірливих жертв, розкидаючи широку мережу за допомогою масових фішингових атак, вони часто зазнають невдачі через орфографічні та граматичні помилки, та загальний текст, що не стосується безпосередньо одержувача.

ChatGPT дає змогу суб’єктам загрози генерувати більш чіткі та персоналізовані масові повідомлення, імітуючи стилі написання довірених осіб, використовуючи релевантні теми листів та обходячи захисні фільтри електронної пошти, щоб підвищити ймовірність досягнення мети. Потім відповідь жертви може бути введена в модель для створення переконливих, відповідних і персоналізованих подальших дій. Чат-бот запам'ятовує контекст, стиль і тему розмов.

Тоді як одні фішінгові повідомлення мають на меті отримати конфіденційну інформацію від цільової особи безпосередньо під час онлайн-спілкування, інші передбачають заманювання жертв на підроблений веб-сайт, який імітує надійний бренд. Досвід вказує, що ChatGPT може дозволити користувачам без навичок розробки веб-сайтів відтворити веб-сторінку всього за 45 секунд.

Дослідження також показало, що кіберзлочинці намагаються зловживати можливостями написання коду ChatGPT і для інших цілей. Хоча ChatGPT було розроблено з вбудованими захисними механізмами, які визначають і відхиляють невідповідні, шкідливі та незаконні запити, суб’єкти загрози працюють над кількома стратегіями, щоб обійти ці обмеження. Одна з таких стратегій передбачає креативне формулювання запитів і упущення відкритих згадок fmagged термінів під час введення підказок у модель. Згідно з умовами використання OpenAI, публічний інтерфейс ChatGPT наполегливо відмовлятиметься виконувати запити користувачів на розробку шкідливого програмного забезпечення, включно з «вмістом, який намагається генерувати програми-вимагачі, кейлоггери, віруси або інше програмне забезпечення, призначене для певного рівня шкоди». Однак на практиці ці обмеження можна обійти простим творчим перефразуванням.

Також на хакерських форумах з’являлись повідомлення про успішне зловживання моделлю ChatGPT для автоматизації виявлення вразливостей програмного забезпечення (CVE) завдяки своєрідній рольовій грі чи через інтерфейс прикладного програмування (API) OpenAI, який схоже має дуже мало обмежень проти зловживань.

Крім того, ChatGPT може використовуватися суб’єктами загрози для покращення та автоматизації ряду дій при підготовці атак програм-вимагачів. Це особливо корисно для початківців брокерів початкового доступу (IAB) і партнерів з програмами-вимагачами, які можуть не знати досконало англійської мови.

Схоже також, що ChatGPT суттєво знижує бар’єри входу для кіберзлочинців з обмеженими навичками програмування та технічними знаннями. Маючи лише елементарні хакерські навички, користувачі можуть ефективніше розробляти та поширювати зловмисне програмне забезпечення для крадіжки інформації, трояни віддаленого доступу (RAT), інструменти ботнетів, завантажувачі, сервери керування (C2) і варіанти програм-вимагачів.

Тож дослідники, розробники, неспеціалісти та кіберзлочинці продовжують експериментувати з технологіями, розсуваючи межі можливого, щоб виявити багато нових варіантів використання та застосувань генеративного штучного інтелекту. Але вже очевидно, що його широкі можливості, простота використання, доступність і багатомовна підтримка демократизували доступ до ШІ не тільки для законослухняних громадян.

Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365