Компанія Google повідомила про виявлення першої хакерської атаки, у якій активно використовувалися технології штучного інтелекту. Ця новина викликала занепокоєння серед експертів у сфері кібербезпеки, оскільки вона свідчить про новий етап розвитку злочинних практик в Інтернеті. Згідно з даними компанії, зловмисники застосовували алгоритми штучного інтелекту для автоматизації процесів збору інформації та створення фішингових атак. Це дозволило їм значно підвищити ефективність своїх дій і
Аналітики Google Threat Intelligence Group (GTIG) зафіксували перший випадок використання ШІ для розробки експлойта "нульового дня". Це підтверджує найгірші побоювання експертів: сучасні мовні моделі стали інструментом у руках кібершахраїв.
Про це пишеРБК-Україназ посиланням на звіт відGoogle.
За даними звіту, невідома група хакерів використала ШІ для створення експлойта, націленого на вразливість у Python-скрипті.Метою атаки був обхід двофакторної автентифікації (2FA). Зловмисники готували масштабну акцію, однак фахівці з кібербезпеки встигли випустити патч до того, як вразливість використали на глобальному рівні.
Ключова небезпека полягає у швидкості- зазначили у Google. Процеси, які раніше вимагали місяців кропіткої роботи програмістів, тепер виконуються за лічені дні або навіть години.
Крім написання коду,ШІ допомагає хакерам створювати максимально реалістичні фішингові схеми, де нейромережі імітують службу підтримки Google у телефонних розмовах або листуванні.
"Зловмисники використовують ШІ для покращення різних фаз життєвого циклу атаки. Це включає підтримку розробки експлойтів вразливостей та шкідливого ПЗ, сприяння автономному виконанню команд, забезпечення цілеспрямованої та добре дослідженої розвідки, а також підвищення ефективності соціальної інженерії та інформаційних операцій", - пояснили фахівці.
Дослідники зрозуміли, що код написаний не людиною, завдяки детальному аналізу.У структурі експлойта знайшли специфічні рядки даних, які зазвичай зустрічаються у навчальних сетах великих мовних моделей (LLM).
Найцікавішим доказом стала "галюцинація" -ШІ вигадав неіснуючий бал за шкалою CVSS (система оцінки вразливостей).
"Це нагадує випадки, коли нейромережі посилаються на вигадані закони під час підготовки юридичних документів", - кажуть фахівці.
Попри це, аналітики впевнені: хоча хакери використовували не Gemini, вони задіяли одразу кілька різних акаунтів у різних ШІ-моделях, щоб приховати свою активність.
Поки хакери озброюються нейромережами, компанії використовують ті самі технології для оборони. Суть проста:ШІ дозволяє проактивно сканувати софт на наявність багів ще до його релізу.
Успішним кейсом став досвід Mozilla: компанія нещодавно відзвітувала, що за допомогою ШІ-інструментів виявила та виправила 423 прогалини у безпеці всього за один місяць.
Джерела
Google виявила першу хакерську атаку за участю ШІ: чому це небезпечний сигнал — (РБК-Україна)