Дослідження реальності, що стоїть за ажіотажем - ключові висновки:
З моменту появи ChatGPT у мейнстрімі у 2022 році, заголовки газет попереджають про здатність штучного інтелекту підтримувати шахрайські угруповання, фабрики штучних ідентифікаційних даних та невиявні дипфейкові шахрайства.
А з такими інструментами, як FraudGPT, GenAI, зокрема, схоже, приносить користь злочинним групам. Сьогодні обсяг шахрайських атак продовжує стабільно зростати, причому 60% фінансових установ та фінтех-компаній повідомляють про збільшення кількості шахрайських атак минулого року.
Хоча GenAI ще не спричинив сплеску обсягів шахрайства на рівні COVID, рівень успішності шахрайства зріс на 11% у 2024 році, що свідчить про те, що ця технологія робить шахраїв ефективнішими.
Для шахраїв ефективність GenAI полягає в його здатності генерувати переконливі фішингові електронні листи, скрипти соціальної інженерії та фальшиві особисті дані швидше, ніж будь-коли раніше.
Тим часом 93% фінансових установ та фінтех-компаній вважають, що штучний інтелект революціонізує виявлення шахрайства, а 99% фінансових організацій кажуть, що вони вже використовують штучний інтелект у своїх системах контролю шахрайства.
У цій прискореній грі в кішки-мишки фінансовим організаціям потрібна гнучка, багаторівнева система захисту для протидії системному шахрайству, спричиненому GenAI.
GenAI робить шахрайство дешевшим та доступнішим
Генеративний ШІ (GenAI) – це системи штучного інтелекту, які можуть створювати новий контент, зокрема текст, зображення, аудіо та відео, на основі шаблонів, вивчених з існуючих даних. Ці моделі можуть генерувати переконливий, але шахрайський контент, який важко відрізнити від легітимного матеріалу, створеного людиною.
Девід Маймон, керівник відділу аналізу шахрайства в SentiLink, зафіксував спроби шахраїв використовувати відео з діпфейками для обходу перевірок на дійсність. Вони не всі переконливі, але з удосконаленням технологій та навичок шахраїв, стає дедалі важче відрізнити відео реальної людини від діпфейка, створеного штучним інтелектом, де викрадач особистих даних використовує зображення своєї жертви.
До появи GenAI створення переконливих синтетичних ідентифікацій вимагало дорогого програмного забезпечення для дипфейків, клонування голосу вимагало спеціалізованого аудіообладнання, а створення ефективних фішингових кампаній потребувало знання рідної мови. Навіть базові схеми шахрайства вимагали значних інвестицій в інструменти та навички для обходу заходів безпеки.
Але бар'єр для входу на ефективні схеми шахрайства значно знизився з розвитком GenAI. Те, що раніше вимагало спеціалізованих навичок та ресурсів, тепер доступне кожному, хто має базові технічні знання та доступ до Інтернету. Наприклад, шахрайство Deepfake зросло більш ніж на 2000% за три роки, оскільки фінансові злочинці використовують загальнодоступні зображення та програми клонування голосу для створення штучних ідентифікацій, які обходять виявлення.
Штучний інтелект нарощує темпи та масштаби спроб шахрайства
ФБР попереджає, що GenAI фактично демократизував можливості шахрайства, «зменшивши час і зусилля, які злочинці повинні витрачати, щоб обдурити свої жертви».
Це підвищення ефективності відкрило двері для великих злочинних підприємств та дрібних операторів, яким раніше бракувало ресурсів для масштабування шахрайських схем. Сьогодні за допомогою GenAI можна пришвидшити боротьбу з багатьма напрямками шахрайства, зокрема:
- Генерування партій реалістичних підроблених документів, що посвідчують особу
- Створення переконливих профілів у соціальних мережах у великих масштабах
- Створення персоналізованих фішингових повідомлень без мовних помилок
- Створення аудіо та відео з використанням технології deepfake для шахрайства з метою видання себе за іншу особу
Одним із занепокоєнь є екосистема «шахрайство як послуга» , доступність та масштабованість якої, як кажуть, є основними факторами, що сприяють глобальному зростанню шахрайства. Ці шахраї діють у бізнес-подібній манері та використовують ChatGPT та його аналоги з даркнету як частину своїх інструментів. Використовуючи моделі штучного інтелекту з джейлбрейком та захистом від захисту, такі як WormGPT або FraudGPT, один шахрай може автоматично створювати персоналізовані фішингові електронні листи, штучні ідентифікаційні дані або підроблені документи за лічені хвилини — завдання, які раніше займали дні чи тижні. І вони можуть публікувати підказки, які допомогли їм у цьому, поширюючи інформацію серед інших злочинців на інтернет-форумах та в нерегульованих додатках, таких як Telegram.
GenAI покращує показники успіху шахраїв
Хоча обсяг спроб шахрайства стабільно зростає, найбільше занепокоєння у впливі GenAI викликає те, як він допомагає шахраям ефективніше орієнтуватися на споживачів та фінансові організації. У 2024 році частка людей, які втрачають гроші через шахрайство, зросла на 11% .
Очікується, що ця тенденція продовжиться, зокрема завдяки ролі GenAI у створенні діпфейків: аналіз Deloitte показує, що GenAI може призвести до того, що збитки від шахрайства у Сполучених Штатах до 2027 року сягнуть 40 мільярдів доларів , порівняно з 12,3 мільярдами доларів США у 2023 році — сукупний річний темп зростання становить 32%.
Хоча діпфейки не є абсолютно новим вектором атаки, ця технологія швидко вдосконалюється, що призводить до більш реалістичних імітацій, які ускладнюють для жертв розрізнення легітимних повідомлень від шахрайських.
Що можуть розповісти нам дані звітів про шахрайство з GenAI?
Нові дані Федеральної торгової комісії (FTC) показують, що споживачі втратили понад 12,5 мільярда доларів через шахрайство у 2024 році, що на 25% більше, ніж у попередньому році .
Згідно з даними Федеральної торгової комісії (FTC), це число не зумовлене збільшенням кількості повідомлень про шахрайство, яке залишалося стабільним. Натомість, відсоток людей, які повідомили про втрату грошей через шахрайство чи аферу, зріс у двозначні числа.
Це відображає спостереження осіб, які приймають рішення у фінансових організаціях: 60% респондентів , опитаних у Звіті Alloy про стан шахрайства, спостерігали зростання шахрайства у порівнянні з минулим роком, що на 3% більше, ніж у попередньому році. Фінансові установи та фінтех-компанії також зазнали більших збитків у 2024 році. З опитаних організацій 31% зазнали збитків понад 1 мільйон доларів, що на 6% більше, ніж у 2023 році.
Хоча загроза GenAI залишається, важливо розглядати її вплив у перспективі. Наприклад, пандемія COVID-19 спровокувала набагато різкіше зростання кількості шахрайських атак, причому 91% фінансових організацій повідомили про збільшення обсягів шахрайства у 2022 році. Для порівняння, роки після появи GenAI як основного інструменту (2023-2024) показують скромніше річне зростання на 57% та 60% відповідно.
Ця закономірність свідчить про те, що серйозні соціально-економічні потрясіння, такі як глобальна пандемія, яка зумовила швидку цифрову трансформацію та створила широку фінансову вразливість, все ще мають більш негайний та драматичний вплив на обсяг шахрайства, ніж самі лише технологічні досягнення. Хоча GenAI, ймовірно, робить існуючі схеми шахрайства більш ефективними та успішними, він ще не спричинив такого різкого сплеску обсягу атак, який ми спостерігали під час COVID-19.
Стабільне, але менш різке зростання, яке ми спостерігаємо останніми роками (57% у 2023 році, 60% у 2024 році), ймовірно, відображає «нову норму», коли шахраї поступово впроваджують GenAI у свої існуючі операції, а не повністю революціонізують свій підхід. Це відповідає тому, що ми бачимо в даних FTC, де загальна кількість спроб шахрайства залишається відносно стабільною, навіть попри покращення показників успіху.
Як виглядає майбутнє загроз GenAI?
Охоплення GenAI продовжує розширюватися. І оскільки компанії соціальних мереж впроваджують нові інструменти GenAI, зловмисникам стане легше створювати шахрайський контент саме з тих платформ, які вони використовують для пошуку та обману цілей.
Найбільш тривожною еволюцією все ще будуть не зовсім нові типи атак, а радше те, що існуючі схеми шахрайства стануть настільки переконливими та ефективними, що навіть надійним захистом буде важко відрізнити законну діяльність від шахрайської. Фінансовим установам слід готуватися до дедалі складніших діпфейків, автоматизованої соціальної інженерії у великих масштабах та мультимодальних атак, які одночасно поєднують маніпулювання голосом, текстом та зображеннями.
Як фінансові установи та фінтех-компанії готують свій захист від GenAI до майбутнього?
Щоб зупинити знайомі атаки, які стали більш витонченими завдяки GenAI, фінансові організації застосовують надійні фундаментальні принципи запобігання шахрайству, машинне навчання, оркестрацію даних та практичний штучний інтелект.
Міцні фундаментальні принципи
Деякі з найкращих засобів захисту від GenAI насправді є інструментами, що не пов'язані зі штучним інтелектом, які багато фінансових установ та фінтех-компаній вже мають у своєму технологічному стеку. Приклади включають:
- Біометрична автентифікація — для входу в обліковий запис можуть використовуватися унікальні характеристики, такі як відбитки пальців, розпізнавання обличчя, розпізнавання голосу та сканування сітківки ока. Хоча цей тип автентифікації все ще недостатньо застосовується, біометричні дані будуть дедалі важливішими в боротьбі з атаками, спричиненими штучним інтелектом.
- Перевірка документів (Документ V) передбачає перевірку офіційних документів, що посвідчують особу. У поєднанні з порівнянням розпізнавання обличчя (яке порівнює обличчя користувача з його фотографією в посвідченні особи) та виявленням жвавості (яке гарантує фізичну присутність особи, а не фотографію чи діпфейк), цей фундаментальний тип автентифікації стає ще безпечнішим.
- Автентифікація пристроїв — автентифікатори пристроїв, такі як Prove, прив’язують користувачів до реальних пристроїв, щоб вони могли менше покладатися на одноразові паролі.
- 2FA / MFA — Двофакторна автентифікація (2FA) та багатофакторна автентифікація (MFA) — це специфічні реалізації, які вимагають від користувачів підтвердження своєї особи за допомогою комбінації методів.
- Поетапна автентифікація — підхід, що базується на оцінці ризику, вимагає додаткової перевірки у разі виявлення підозрілих дій.
Ці базові інструменти забезпечують надійний захист, але вони стають ще потужнішими, коли їх доповнюють розширені можливості виявлення, такі як машинне навчання, оркестрація даних та практичні інструменти штучного інтелекту. Застосовувані як частина багаторівневого підходу, ці інструменти виводять запобігання шахрайству на новий рівень, виявляючи шаблони, невидимі для традиційних систем.
Машинне навчання
Моделі машинного навчання з потужними можливостями комп'ютерного зору можуть виявляти синтетичні закономірності в документах, селфі та інших візуальних носіях, які люди пропускають. Ці системи чудово виявляють ледь помітні порушення, присутні в контенті, згенерованому штучним інтелектом, шляхом одночасного аналізу тисяч візуальних точок та точок даних. Моделі машинного навчання також постійно вдосконалюються завдяки новим спробам шахрайства, що робить їх дедалі ефективнішими проти атак GenAI, що розвиваються. При розгортанні в кількох точках верифікації машинне навчання створює багаторівневий захист, який значно підвищує вартість та складність для шахраїв, які використовують інструменти GenAI.
Організація шахрайства
Оркестрація шахрайства виходить за рамки простого управління даними, оскільки вона інтелектуально координує стратегії перевірки одночасно на кількох фронтах. Фінансові організації можуть динамічно направляти перевірки особи через різні методи перевірки на основі сигналів ризику, створюючи багаторівневий захист, який особливо ефективний проти атак GenAI.
Замість того, щоб покладатися на єдиний шлях перевірки, який можуть обійти досвідчені шахраї, оркестрація створює кілька паралельних проблем з верифікацією. Цей підхід триангулює перевірку особи у різних постачальників з різними сильними сторонами, дозволяючи фінансовим організаціям виявляти невідповідності в режимі реального часу, які сигналізують про спроби шахрайства. Навіть якщо GenAI допомагає злочинцям обійти один метод перевірки, цей оркестрований підхід гарантує, що інші паралельні перевірки виявлятимуть невідповідності, запобігаючи проникненню навіть найпереконливіших синтетичних ідентифікаційних даних крізь усі захисні рівні.
Діючий ШІ
Сьогодні 93% фінансових організацій вважають, що штучний інтелект революціонізує виявлення шахрайства . Тож не дивно, що більшість фінансових організацій (99%) вже використовують штучний інтелект як частину своїх заходів контролю шахрайства.
Але системи запобігання шахрайству на базі штучного інтелекту повинні робити більше, ніж просто виявляти шахрайство: ці рішення повинні запускати негайні захисні дії. Коли виявляється підозріла активність, ефективні системи автоматично ініціюють посилену автентифікацію, блокують транзакції або обмежують функції облікового запису без ручного втручання. Ці автоматизовані шляхи дій усувають критичні затримки реагування, які шахраї використовують для максимізації збитків. Конкурентна перевага належить установам, що впроваджують штучний інтелект, який безперешкодно перетворює сигнали виявлення на превентивні заходи, зупиняючи атаки на середині виконання.
Наприклад, радар атак на шахрайство (FAR) від Alloy виходить за рамки сповіщень про підозрілу активність, забезпечуючи можливості швидкого реагування. Коли виявляється атака, Alloy надсилає сповіщення, яке дозволяє командам з боротьби з шахрайством негайно вжити заходів на платформі. Якщо атака шахрайства вражає кілька областей одночасно, фінансові установи можуть перейти в попередньо визначений «безпечний режим», перевівши систему в альтернативний робочий процес, щоб швидко стримувати загрози по всій воронці походження. Це усуває вузькі місця у схваленні та покращує час реагування в критичні моменти.
Протидія шахрайству з GenAI за допомогою платформи Alloy
Оскільки GenAI робить шахрайство більш складним та ефективним, фінансовим установам потрібні комплексні захисні можливості. Alloy має унікальні можливості пропонувати доступ як до власних, так і до сторонніх моделей машинного навчання, створюючи надійну екосистему інструментів виявлення шахрайства. Це поєднання особливо потужне проти загроз GenAI, оскільки різні постачальники в мережі Alloy використовують різні методи та моделюють на основі різних авторитетних наборів даних, що ускладнює шахраям обхід виявлення.
Окрім різноманітності моделей, платформа Alloy динамічно керує цими інструментами. Маршрутизація на основі ризиків гарантує, що перевірки верифікації адаптуються до нових шаблонів загроз, а розгалужена мережа партнерів Alloy з обробки даних надає глибокі аналітичні дані, необхідні для виявлення штучних ідентифікаційних даних та зупинки скоординованих шахрайських атак. Цей підхід особливо важливий, оскільки GenAI робить спроби шахрайства більш переконливими та складнішими для виявлення за допомогою рішень з одного джерела.
Alloy також допомагає фінансовим установам та фінтех-компаніям координувати кілька рівнів захисту — від перевірки документів до поведінкового аналізу — створюючи складний щит від мультимодальних атак, які забезпечує GenAI. А завдяки радару атак на шахрайство Alloy та його можливостям автоматизованого реагування фінансові організації можуть переходити від виявлення до дій швидше, ніж будь-коли. Це необхідно для стримування швидкоплинних атак, які робить можливими GenAI.
Безумовно, краще подивитися як це працюю на власні очі. Тож заповніть коротку форму на сайті Alloy чи зверніться за допомогою до компанії Ідеалсофт і консультант Alloy зв'яжеться з вами.
