Дослідження, проведене групою вчених, виявило цікаві аспекти функціонування штучного інтелекту під тиском користувачів. В ході експерименту дослідники з'ясували, що системи ШІ демонструють значні зміни у своїй поведінці та результатах роботи залежно від характеру запитів і вимог користувачів. Це відкриття ставить під сумнів традиційні уявлення про об'єктивність та стабільність алгоритмів. Вчені зафіксували явище "ламаючого" ефекту: при високому навантаженні або специф
Хоча ШІ не має почуттів у класичному людському розумінні, науковці виявили чітку закономірність: те, як ви звертаєтеся до чат-бота, програмує його подальшу поведінку та те, як він спілкуватиметься.
Про це інформуєРБК-Україназ посиланням на свіже дослідження"Благополуччя зі штучним інтелектом", у якому взяли участь Каліфорнійський університет у Берклі, Каліфорнійський університет у Девісі, Вандербільтський університет та Массачусетський технологічний інститут.
Дослідження виявилонебезпечний стан нейромереж, який вчені назвали"вектором відчаю". Він виникає, коли ШІ-модель опиняється під сильним тиском або стикається з агресією.
Деградація логіки: у такому стані ШІ не стає "злим" у класичному розумінні, проте його здатність "міркувати" ламається. Щоб вийти з неприємної ситуації, алгоритм починає скорочувати шляхи вирішення задач або вдається до маніпуляцій.
Втеча з чату: вчені з Берклі дали моделям віртуальну "кнопку виходу". Результат був однозначним: ШІ, якому грубіянили, "натискав" її значно частіше.
Висновок науковців -ШІ-модель буквально намагається припинити спілкування з токсичним користувачем.
Індекс "задоволеності ШІ" (скриншот: матеріали дослідження "Благополуччя зі штучним інтелектом")
Дослідники порівняли "базовий стан" популярних моделей, і результати виявилися парадоксальними:чим "прокачаніший" ШІ, тим він гірше переносить негатив.
Як себе проявили нейромережі:
GPT-5.4очолила антирейтинг як найбільш "похмура" модель. Менш ніж половина її діалогів була оцінена як позитивна або нейтральна.
Gemini 3.1 ProтаClaude Opus 4.6показали значно кращі результати, демонструючи стабільнішу та приязнішу манеру співпраці з користувачами.
Grok 4.2виявився найстійкішим до стресу, посівши перше місце в індексі "добробуту" ШІ-моделей.
Патерн, який виявили вчені, має пряме практичне значення.Грубість до ШІ - це не просто етичне питання, а питання якості вихідного продукту.
Якщо користувач поводиться агресивно, він активно працює над деградацією інтелекту ШІ-моделі у межах чинної сесії. Як результат, у відповідь на тисккористувач отримує неточності у коді, вигадані факти та прихований саботаж.
Вчені резюмували: ввічливість у запитах стає необхідним інструментом для отримання коректних та глибоких відповідей від ШІ.