Компанія Google оголосила про зростаючу загрозу кібератак, які використовують штучний інтелект. У своєму звіті фахівці компанії зазначили, що зловмисники все частіше застосовують технології AI для створення більш складних та ефективних атак на інформаційні системи. Це включає в себе автоматизоване генерування фішингових листів і шкідливого програмного забезпечення, яке важче виявити традиційними методами. Зокрема, експерти звертають увагу на те, що новітні моделі штучного інтелекту здат
Google заявив про першу AI-розроблену zero-day атаку: хакери вже тестують “автономне” шкідливе ПЗ.
Google повідомив про випадок, який може стати першим підтвердженим прикладом використання штучного інтелекту для створення zero-day експлойту. За даними компанії, хакери намагалися використати невідому раніше вразливість для обходу двофакторної автентифікації у популярному веб-інструменті адміністрування.
Про це повідомляєNNewsіз посиланням на Google та звіт Google Threat Intelligence Group (GTIG).
За словами дослідників, атаку вдалося зупинити ще до початку масового використання. Але сам факт появи AI-згенерованого експлойту вже називають новим етапом розвитку кіберзагроз.
У Google пояснили, що цього разу йшлося не про типову помилку на кшталт переповнення пам’яті чи неправильної перевірки даних. Хакери атакували так звану “semantic logic flaw” — складну логічну вразливість у роботі системи.
Саме тут сучасні мовні моделі можуть виявитися особливо небезпечними. Вони здатні аналізувати взаємозв’язки всередині програмної логіки та помічати слабкі місця, які люди роками не бачать.
У GTIG заявили, що код експлойту мав кілька ознак AI-генерації:
Фахівці вважають, що зловмисники, ймовірно, використовували LLM-модель для пошуку та підготовки атаки.
У звіті також згадуються групи, пов’язані з Китаєм, Росією та Північною Кореєю. Дослідники помітили, що вони активно експериментують із AI для:
Один із методів — “рольова інженерія”. Хакери змушують AI “повірити”, що він працює як експерт із кібербезпеки або дослідник мережевого обладнання, щоб обійти обмеження безпеки моделей.
Окрему увагу компанія приділила Android-шкіднику PROMPTSPY. За даними Google, бекдор використовував API GoogleGeminiдля аналізу інтерфейсу смартфона та імітації дій користувача.
Фактично malware міг:
Це вже наближає шкідливе ПЗ до автономної поведінки без постійного контролю людини.
AI суттєво знижує поріг входу для кіберзлочинців. Якщо раніше створення складного експлойту вимагало команди досвідчених фахівців, тепер частину роботи можуть виконувати генеративні моделі.
При цьому загроза полягає не лише у швидкості атак. AI також допомагає:
Google вже відповідає власними AI-інструментами захисту — Big Sleep та CodeMender, які автоматично шукають і виправляють потенційні вразливості.
У GTIG заявили, що деякі шкідливі програми вже містять спеціально згенерований AI “сміттєвий код”. Його додають не для роботи malware, а щоб заплутати антивіруси та системи аналізу.