З моменту появи ChatGPT у масовому масштабі у 2022 році, використання генеративного штучного інтелекту (GenAI) різко зросло, а такі «чорні» інструменти, як FraudGPT та WormGPT, залишили свій слід у світі загроз.
FraudGPT – це лише один із багатьох генеративних інструментів штучного інтелекту, доступних шахраям в Інтернеті. Ці зловмисники використовують ті самі чат-боти на основі штучного інтелекту, яких ви використовуєте для написання електронного листа своєму начальнику, для автоматизації фішингових кампаній та відтворення системних атак у великих масштабах. Цей різновид «самостійного шахрайства» створює конкуренцію споживачам та бізнесу.
Що таке FraudGPT?
FraudGPT — це модель великої мови програмування (LLM) на основі підписки, розроблена для функціонування, подібного до ChatGPT від OpenAI або Microsoft Copilot, але без будь-яких вбудованих захисних механізмів. Вона вперше потрапила в заголовки газет у 2023 році завдяки своїй здатності генерувати контент, спеціально призначений для шахрайства, включаючи підроблені банківські виписки, платіжні квитанції та рахунки за комунальні послуги. Інструмент рекламується за свою здатність допомагати шахраям програмувати шкідливе програмне забезпечення, знаходити типи кредитних карток, які не потребують додаткової перевірки безпеки (не-VBV-кошики), виявляти вразливі веб-сайти та генерувати переконливі фішингові сторінки.
А як щодо WormGPT?
Як і FraudGPT, WormGPT став відомим у 2023 році. Побудований на основі моделі GPT-J 2021 року, розробленої EleutherAI, WormGPT був навчений роботі з кодом шкідливого програмного забезпечення, шаблонами фішингу та скомпрометованими електронними листами для створення чат-бота без етичних обмежень.
Доступний через Telegram та Discord, WormGPT рекламується завдяки своїй здатності генерувати складні атаки компрометації бізнес-електронної пошти (BEC), автоматизуючи створення цільових фішингових кампаній, які можна адаптувати до різних галузей та стилів корпоративного спілкування. Його пам'ять сеансів та можливості форматування сприяють розробці шкідливого коду та шкідливих програм.
Інші загрози: ШІ Xanthorox
Xanthorox AI – це інструмент штучного інтелекту, який позиціонує себе як «Вбивця WormGPT та всіх варіантів EvilGPT». Вперше з’явившись у квітні 2025 року, Xanathrox просуває свій продукт «Xenware» як перше програмне забезпечення-вимагач, створене штучним інтелектом, з розширеними функціями, здатне обходити традиційні заходи безпеки. Модульна архітектура інструменту дозволяє генерувати код, використовувати вразливості та аналізувати дані, одночасно інтегруючи можливості обробки голосу та зображень для більш складних, автоматизованих атак.
На відміну від FraudGPT та WormGPT, які спираються на існуючі мовні моделі, Xanthorox використовує спеціально розроблені LLM, що використовують API, для збору інформації в режимі реального часу з понад 50 пошукових систем, надаючи шахраям доступ до актуальних даних для своїх схем. Він пропонує користувачам повне сховище даних, усуваючи цифрові сліди, які в іншому випадку могли б допомогти командам безпеки відстежувати шахрайську діяльність до її джерела.
Шахрайство із застосуванням соціальної інженерії
Шахрайство із застосуванням соціальної інженерії спирається на маніпулювання людьми, а не системами. Замість того, щоб пробити технічний захист, зловмисники обманом змушують людей передати конфіденційну інформацію або виконати ризиковані дії. Видаючи себе за довірених осіб чи організації, шахраї використовують людські інстинкти, такі як терміновість, страх або бажання допомогти, щоб отримати доступ.
Тип шахрайства із застосуванням соціальної інженерії часто залежить від використовуваного каналу зв'язку. Наприклад:
- Фішинг полягає у видаванні себе за довірену особу або компанію через електронну пошту
- Smishing використовує текстові повідомлення для здійснення подібної імперсонації
- Вішинг відбувається через голосові дзвінки або голосову пошту
- Шахрайство Deepfake використовує відео, створені штучним інтелектом, для імітації реальних людей з тривожною точністю.
Замість того, щоб використовувати широкі сітки (як це типово для фішингових атак), шахраї все частіше вдаються до «фішингу з використанням копій» — більш масштабного підходу, який використовує особисті дані, характерні для кожної цілі.
Використовуючи GenAI, шахраї можуть аналізувати та відтворювати письмову мову, мовленнєві моделі або навіть характеристики обличчя для більш ефективних, цілеспрямованих атак. Вони можуть швидко сортувати дані, зібрані з Інтернету або викрадені з приватних каналів, таких як електронна пошта, щоб визначити, які деталі допоможуть зробити ці імітації більш переконливими.
Створення синтетичної ідентичності
Штучний інтелект просунув створення синтетичних ідентичностей — переконливих персон, створених шляхом синтезу реальної персональної інформації (PII), такої як імена, адреси та номери соціального страхування, та поєднання їх із вигаданими даними.
Підробка документів та діпфейки документів
Підробка документів, необхідний компонент штучного шахрайства з ідентифікацією та інших фінансових афер, стала значно небезпечнішою в епоху генеративного штучного інтелекту. Сьогоднішні шахраї можуть використовувати передові моделі для швидкої фабрики або тонкої маніпуляції конфіденційними документами, що використовуються для перевірки особи, подання заявок на кредити та інших робочих процесів адаптації.
Моделі машинного навчання та генератори зображень тепер можна навчити:
- Імітація справжніх документів: ці інструменти відтворюють шрифти, макети, логотипи та навіть елементи безпеки з вражаючою точністю. Моделі штучного інтелекту можуть імітувати реалістичне освітлення, текстуру та композицію фотографії, що робить підроблені документи майже невідрізними від справжніх.
- Зміна реальних документів: Незначні зміни, такі як завищення балансу банківського рахунку, коригування періоду виплати платежів або зміна адреси, можуть бути автоматизовані та масово вироблені за допомогою генеративного штучного інтелекту. Ці мікропідробки важче виявити, оскільки вони часто зберігають більшу частину оригінального макета та метаданих документа.
У будь-якому випадку підроблений документ може обійти застарілі системи перевірки, якщо ці системи покладаються лише на візуальний огляд або правила статичної перевірки.
Діпфейки також забирають документи
Більшість людей асоціюють термін «діпфейк» з маніпуляціями з відео чи голосом. Але у 2025 році діпфейки документів набирають обертів, і вони не менш небезпечні. Це документи, згенеровані штучним інтелектом, які не просто виглядають як справжні; вони синтезуються з нуля за допомогою передових моделей генерації зображень, часто без жодного посилання на реальний документ.
На відміну від традиційних підробок, діпфейки документів:
- Генерується піксель за пікселем за допомогою авторегресивних моделей, а не відредагованих версій реальних зображень.
- Фотореалістичний на перший погляд , з текстурами, такими як складки паперу, нерівномірність освітлення та переконливі тіні, які вводять в оману навіть досвідчених рецензентів.
- Схильні до ледь помітних помилок, таких як слова з орфографічними помилками, неправильні місця розташування (наприклад, фальшиві назви магазинів) або дивне форматування, які можуть позначати інструменти штучного інтелекту, такі як Inscribe, але ці проблеми швидко зникають із розвитком моделей.
Згідно з дослідженням Inscribe щодо документів GenAI , рахунки за комунальні послуги, рахунки-фактури та банківські виписки складають 70% спроб шахрайства з документами, створеними за допомогою штучного інтелекту, і їхня реалістичність зростає. Що робить ці діпфейки особливо небезпечними, так це їхня доступність: будь-хто з правильною підказкою та доступом до моделі зображення з відкритим кодом може створити підроблену платіжну квитанцію або договір оренди за лічені секунди.
Атаки з підтасовуванням облікових даних
Атаки із заповненням облікових даних – це тип атаки методом перебору, коли шахраї здійснюють шахрайство із захопленням облікового запису (ATO), отримуючи облікові дані користувачів для одного облікового запису та використовуючи їх для спроби проникнення в інші непов’язані облікові записи.
Оскільки витоки даних стають все більш поширеними, атаки з підтасовуванням облікових даних також почастішали. Боти на базі штучного інтелекту загострили атаки з підтасовуванням облікових даних, оскільки вони дозволяють шахраям автоматизувати процес перевірки великих обсягів імен користувачів та паролів у кількох облікових записах, що зрештою збільшує рівень успішності доступу до облікових записів.
Наскільки потужними та доступними є шкідливі моделі штучного інтелекту?
Потужність LLM залежить від даних, на яких вони навчаються, і багато експертів з кібербезпеки ставлять під сумнів законність заяв щодо цих інструментів. У деяких випадках вони розроблені для використання хакерами-початківцями, яким бракує навичок для створення власного шкідливого програмного забезпечення чи інших інструментів для злому.
Але самі FraudGPT та WormGPT стали радше ярликом, ніж конкретним інструментом штучного інтелекту, призначеним для того, щоб надати кіберзлочинцям можливість здійснювати кібератак. Хоча оригінали були видалені, сьогодні існують сотні нецензурованих LLM, багато з яких спираються на брендинг WormGPT з метою розпізнавання назви та зручності пошуку. І вони доступні не лише на торгових майданчиках даркнету, вони доступні на поширених сайтах розробників, таких як GitHub та торгові майданчики штучного інтелекту.
Кількісна оцінка ризику: статистика для розуміння загрози GenAI у 2025 році
Тож, яку реальну шкоду завдають ці інструменти? Залежить від того, кого ви спитаєте, але дані дають чіткіше уявлення про те, як GenAI змінює шахрайство та кіберзлочинність:
- За даними Signicat , 42,5% спроб шахрайства у фінансовому секторі зумовлені штучним інтелектом
- З моменту запуску ChatGPT у 2022 році кількість дипфейкових атак зросла на 2137% — з 0,1% спроб шахрайства до 6,5%
- Діпфейки складають приблизно кожен 15-й випадок шахрайства
- За даними Entrust, у 2024 році кожні п'ять хвилин відбувалася спроба діпфейку
- Підробка цифрових документів зросла на 244% у порівнянні з минулим роком
- За даними SlashNext, кількість шкідливих електронних листів зросла на 4151% з 2022 року, а обсяг фішингових розсилок зріс на 856% у порівнянні з минулим роком
- У симуляції, проведеній SoSafe, 78% учасників відкрили фішингові електронні листи, згенеровані штучним інтелектом. Кожен п'ятий (21%) натиснув на потенційно шкідливі посилання або вкладення в електронному листі
- 97% організацій повідомляють про проблеми з перевіркою особи, і понад половина (54%) вважають, що штучний інтелект ще більше ускладнить контроль над шахрайством з особистими даними
Як фінансові установи та фінтех-компанії можуть боротися з шахрайськими атаками, спричиненими штучним інтелектом?
Фінансові послуги є найбільш мішенню для спроб шахрайства. Оскільки шахраї продовжують використовувати штучний інтелект для отримання фінансової вигоди, фінансові організації повинні адаптуватися за допомогою таких же передових технологій для захисту від цих загроз.
Експерти з ризиків рекомендують «Модель швейцарського сиру» як корисну основу для розуміння того, як пом'якшити шахрайство за допомогою штучного інтелекту. Цей підхід концептуалізує кілька рівнів захисту, які запобігають шахрайству, використовуючи швейцарський сир як візуальний образ. Кожен шар має потенційні слабкі місця або «діри», унікальні для його конфігурації. Але коли засоби захисту від шахрайства об'єднані, як скибочки швейцарського сиру, ймовірність того, що загроза пройде через усі шари, значно зменшується.
Основні компоненти ефективної моделі «швейцарського сиру» для виявлення шахрайства, спричиненого штучним інтелектом, включають:
- Оркестрація даних
Фінансовим установам та фінтех-компаніям слід використовувати різноманітних постачальників даних для перехресної перевірки інформації та виявлення невідповідностей. Прикладами є служби перевірки особи, кредитні бюро та аналіз соціальних мереж. Поєднуючи дані від різних постачальників, фінансові установи та фінтех-компанії можуть покращити свою здатність виявляти підозрілі закономірності, які можуть пропустити окремі джерела даних.
- Моделі моніторингу в реальному часі та машинного навчання
Моделі машинного навчання мають вирішальне значення для виявлення закономірностей та аномалій, що вказують на шахрайську діяльність. Ці моделі можуть аналізувати величезні обсяги даних про транзакції, щоб виявити поведінку, яка відхиляється від норми. Оскільки вони постійно навчаються на нових даних, моделі машинного навчання можуть адаптуватися до тактик шахрайства, що розвиваються, та з часом покращувати свою точність. Фінансовим установам слід використовувати ці моделі для моніторингу транзакцій у режимі реального часу, позначаючи підозрілу діяльність для подальшого розслідування.
- Виявлення шахрайства з документами
Розширене виявлення шахрайства з документами є важливим для ідентифікації підроблених документів. Ці інструменти використовують машинне навчання та штучний інтелект для аналізу зображень і документів на наявність ознак підробки, невідповідностей та підробок. Досліджуючи такі елементи, як невідповідність шрифтів, нерівності в якості зображення та розбіжності в метаданих документів, ці системи можуть виявляти шахрайські документи точніше, ніж ручні перевірки. Фінансові установи та фінтех-компанії повинні інтегрувати ці інструменти у свої процеси адаптації та перевірки андеррайтингу для підвищення безпеки та ефективності.
- Поетапна перевірка
Посилена верифікація передбачає підвищення рівня безпеки для програм або транзакцій, які вважаються високоризикованим. Цей підхід вимагає від користувачів додаткової верифікації, коли вони виконують дії, що виходять за рамки їхньої звичайної поведінки, такі як великі транзакції або доступ із незнайомих пристроїв.
Історично багато організацій покладалися на одноразові паролі та додаткові контрольні питання, оскільки вони були простими у використанні. Однак, за допомогою SDK Alloy організації можуть так само легко використовувати складніші методи поетапної перевірки, такі як перевірка документів та біометрична перевірка. Впроваджуючи поетапну перевірку, фінансові установи та фінтех-компанії можуть додати додатковий рівень захисту для конфіденційних дій, не створюючи незручностей для користувачів під час рутинних транзакцій.
- Практичні інструменти штучного інтелекту
Радар шахрайства від Alloy надає не лише сповіщення, але й практичну інформацію, яка допомагає клієнтам швидко оцінювати загрози, коригувати політики боротьби з шахрайством та впевнено реагувати. Завдяки постійному навчанню на основі даних протягом усього життєвого циклу клієнта, радар шахрайства дозволяє клієнтам оцінювати ризики на рівні портфеля та випереджати нові моделі шахрайства.
- Агенти штучного інтелекту
Агенти зі штучним інтелектом можуть бути задіяні для покращення виявлення шахрайства та реагування на нього. Ці агенти можуть контролювати транзакції, позначати підозрілу поведінку та навіть взаємодіяти з клієнтами для перевірки їхньої особи або збору додаткової інформації. Агенти зі штучним інтелектом можуть працювати цілодобово, забезпечуючи безперервне спостереження та швидке реагування на потенційні загрози. Інтеграція агентів зі штучним інтелектом у команди з обслуговування клієнтів та запобігання шахрайству може допомогти фінансовим установам швидко та ефективно вирішувати проблеми.
Про Alloy
Alloy — це платформа, яка допомагає банкам, фінтех-компаніям та іншим організаціям автоматизувати процеси онбордингу, моніторингу транзакцій та оцінки кредитних ризиків. SDK Alloy у цьому контексті — це низькокодове рішення для інтеграції з їхньою платформою через API.
Основні характеристики SDK Alloy:
- Інтеграція з API: SDK спрощує взаємодію з єдиним API Alloy, який об’єднує доступ до 200+ джерел даних для оцінки ризиків, перевірки документів, ідентифікації за номером телефону тощо.
- Підтримка кількох мов: Доступні SDK для javascript (Frontend), Node.js, Python, що дозволяє розробникам швидко запускати інтеграції.
- Гнучкість і кастомізація: SDK дозволяє налаштовувати інтерфейс користувача (UI) відповідно до бренду компанії, а також додавати нові плагіни для верифікації (наприклад, для боротьби з новими видами шахрайства).
- Автоматизація процесів: Допомагає тестувати стратегії онбордингу, керувати кількома постачальниками даних і зменшувати навантаження на інженерні команди.
- Безпека: SDK підтримує функції, такі як шифрування даних (наприклад, AES-SIV у контексті IronCore Labs Alloy SDK), що забезпечує захист чутливої інформації.
Приклади використання:
- Онбординг клієнтів: SDK спрощує перевірку особи клієнта, дозволяючи інтегрувати інструменти для перевірки документів чи оцінки ризиків.
- Моніторинг транзакцій: Допомагає виявляти підозрілі дії в реальному часі.
- Кредитний аналіз: Автоматизує оцінку кредитоспроможності клієнтів.
Придбати рішення Alloy можна у офіційного постачальника – компанії Ідеалсофт (Idealsoft).
