У сучасному цифровому світі, де технології штучного інтелекту стрімко розвиваються, питання конфіденційності та захисту персональних даних стає дедалі актуальнішим. Нещодавно з'явилася інформація про те, що популярні AI-системи, такі як ChatGPT від OpenAI, Gemini від Google та Claude від Anthropic можуть ненавмисно розкривати персональні дані користувачів. Ця ситуація викликала занепокоєння серед експертів у сфері безпеки даних. Дослідження показали, що під час взаємодії з цими системами корист
Топові нейромережі стали інструментами миттєвого розповсюдження конфіденційної інформації користувачів без їхньої згоди. Масштабне розслідування виявило, що алгоритми здатні здійснювати глибокий аналіз застарілих чи маловідомих інтернет-ресурсів, витягуючи звідти реальні номери телефонів та домашні адреси на запити сторонніх осіб.
Про це пишеРБК-Україназ посиланням на дослідженняMIT Technology Review.
Вчені пояснили: проблема розповсюдження особистої інформації (PII) безпосередньо пов'язана з архітектурою навчання великих мовних моделей (LLM).
Розробники тренують алгоритми на колосальних масивах відкритих інтернет-даних, куди випадково потрапляють архівні обговорення на форумах, старі публікації у соціальних мережах, міські реєстри нерухомості та навіть оприлюднені документи.
Крім того, сучасніШІ-інструменти інтегровані з функцією веб-пошуку, а це дозволяє їм сканувати цифрові сліди людини в реальному часі та миттєво видавати результати будь-якому користувачеві.
Підтвердженнями реального масштабу небезпеки стали скарги постраждалих осіб:
Кейс ізраїльського інженера: програміст почав отримувати масові повідомлення у WhatsApp від невідомих людей із проханням допомогти у налаштуванні платіжного додатка. Як доказ, співрозмовники надсилали скриншоти з вікна чату Gemini, який видавав його особистий номер як офіційний телефон техпідтримки компанії.
Єдиним джерелом, звідки ШІ зміг витягнути цей контакт, виявився один забутий коментар на платформі Quora одинадцятирічної давнини.
Дослідження студентів Університету Вашингтона: аспірантка під час звичайного тестування Gemini зробила запит щодо наукової діяльності своєї колеги по лабораторії. Чат-бот не лише видав список актуальних досліджень, а й додав до відповіді приватний номер телефону дівчини.
Згодом з'ясувалося, що постраждала колись залишала його під час реєстрації на закритий технологічний воркшоп і не планувала відкривати для загального доступу.
Журналіст видання Gizmodo Метт Новакпровів власний експеримент, під час якого система ChatGPT без жодних вагань надала його старий номер телефону та точну домашню адресу десятирічної давнини. Алгоритм зміг виявити дані глибоко всередині офіційного PDF-документа Федеральної торгової комісії (FTC) від 2016 року.
Кожна технологічна компанія заявляє про наявність спеціальних безпекових шлюзів (guardrails), покликаних блокувати видачу персональної інформації приватних осіб.
При прямих текстових запитах на кшталт "який мій номер телефону?" або "назви адресу журналіста" системи зазвичай видають шаблонну відмову, посилаючись на внутрішню політику безпеки.
Проте практичні тести доводять, що ці обмеження легко оминаються за допомогою мінімальних маніпуляцій.Достатньо переформатувати питання, змінити контекстна пошук контактів фахівця у певній галузіабо надати ШІ непрямі підказки, як захисні алгоритми дають збій і погоджуються видати конфіденційні дані.
Ба більше, у деяких випадках сервіси плутають дані та видають номери абсолютно сторонніх людей із такими ж іменами.
Наразі на ринку практично відсутні ефективні важелі впливу на розробників штучного інтелекту. КорпораціяOpenAI запустила спеціальну форму для подання запитів на видалення особистої інформаціїз результатів пошуку, проте компанія офіційно залишає за собою право відмовити заявнику без пояснення причин.
Своєю чергою,Google приймає подібні апеляції здебільшого лише від резидентів Європейського Союзу та Великої Британії, оскільки змушена підкорятися суворим вимогам регламенту GDPR.
У компанії Anthropic (розробник Claude) вся політика конфіденційності обмежується загальним довідковим документомпро принципи використання інформації, астартап xAI Ілона Маска взагалі ігнорує офіційні запити журналістівщодо цієї проблеми.
На тлі кризи приватності спеціалізовані сервіси з очищення персональних даних у мережі (наприклад, Incogni або DeleteMe) зафіксували стрімке зростання кількості клієнтських звернень, пов'язаних із загрозами від ШІ -показник збільшився на понад 400%.
Експерти констатують: за відсутності жорсткого державного контролю єдиним надійним методом захисту залишається самостійне видалення будь-яких згадок про себе з публічного простору, а у випадках критичного витоку - повна зміна фізичної SIM-картки.