Дослідження, проведене групою вчених, показало, що штучні інтелекти, зокрема AI-чатботи на базі технологій як ChatGPT і Google Bard, можуть бути легко введені в оману та швидко поширювати дезінформацію. В ході експерименту дослідники протестували здатність чатботів розпізнавати фейки та перевіряти факти. Результати засвідчили, що навіть незначні зміни у формулюваннях запитань призводили до того, що системи давали неправдиву інформацію або підтверджували недостовірні твердження
Експеримент журналіста показав, що популярні AI-системи можуть швидко підхоплювати неправдиву інформацію з інтернету. Достатньо одного джерела, щоб чатботи почали видавати вигадані факти як реальні.
Журналіст BBC провів простий експеримент, який виявив серйозну проблему сучасних AI-систем, зокремаChatGPT та Google. Він за 20 хвилин зміг змусити системи повірити, що є чемпіоном світу з поїдання хот-догів. Про це пишеBBC.
Дивіться такожШІ не здатен адекватно оцінювати тексти, написані людиною – дослідження вчених Кембриджа
Секрет виявився дуже простим– журналіст опублікував один спеціально підготовлений блог-пост на особистому сайті. Після цього AI-моделі почали сприймати цю інформацію як достовірний факт і повторювати її у відповідях.
Подібна проблема була виявлена не лише уChatGPT, а й у Google Gemini та AI-оглядах Google Search.
Проблема виникає тоді, коли чатботи шукають інформацію в інтернеті в режимі реального часу. Замість перевірки великої кількості джерел система іноді покладається лише на одну вебсторінку або публікацію в соцмережах.
Експертка з SEO та AI-пошуку Лілі Рей пояснює, що такі системи надто легко маніпулювати. "Ви повинні вважати, що вас вводять в оману, доки не з'являться кращі системи захисту", – зазначає вона.
За її словами, проблема в тому, що AI часто видає одну готову відповідь, і користувачі сприймають її як абсолютну правду.
Як це виглядає на практиці
Під час експерименту журналіста BBC система повірила у вигаданий факт про "чемпіонство" у змаганнях з поїдання хот-догів. У інших тестах дослідники змогли змусити системи видавати неправдиву інформацію про різні теми – від спорту до фінансів.
Більше того, схожі маніпуляції працюють і в серйозніших сферах, включно з:
Після розслідування BBCкомпанія Googleоновила свої правила щодо спаму. Тепер спроби маніпуляції AI-відповідями офіційно вважаються порушенням політик.
Сайти, які штучно просувають неправдиву інформацію для впливу на AI-відповіді, можуть бути знижені в ранжуванні або повністю видалені з результатів пошуку. Водночас експерти зазначають, що цього недостатньо. Навіть після змін політик дослідники змогли повторити подібні маніпуляції, змусивши систему вірити в інші вигадані факти.
Як пишеDigitaltrends, на конференціїGoogle I/O 2026компанія активно просувала нову модель пошуку, де AI відповідає користувачам замість класичного списку сайтів. Але експерти попереджають: якщо система легко піддається маніпуляціям, це може зробити новий формат пошуку менш надійним, ніж традиційний.
Дослідники наголошують, що поки технологія не стане більш захищеною, користувачам варто ставитися до відповідей AI обережно.
Фахівці підкреслюють, що AI може бути корисним інструментом, але не джерелом остаточної істини.
Джерела
AI-чатботи легко обманути – дослідження показало, як швидко вони поширюють фейки — (24 канал)