Компанія OpenAI, розробник популярного чат-бота ChatGPT, змушена була терміново внести зміни в налаштування свого продукту через аномальну поведінку системи. Користувачі почали помічати, що бот активно генерує відповіді на запити про гоблінів та інші фантастичні істоти, створюючи відчуття одержимості цими персонажами. Ця ситуація виникла після того, як у мережі з'явилися численні запити і обговорення теми гоблінів у контексті різних ігор та ф
Компанія OpenAI обмежила згадки про гоблінів і подібних істот у відповідях чат-бота зі штучним інтелектом ChatGPT. Причиною стали різкі зміни в мовленні моделі після оновлення GPT-5.4. Згадки про вигаданих істот зросли майже на 4000% у певних режимах,повідомляєThe Wall Street Journal.
ЗаданимиOpenAI, у версії GPT-5.4 згадки про гоблінів зросли на 3881% у режимі “ботанічної” особистості порівняно з попередніми моделями. У компанії зазначили, що це стало наслідком особливостей навчання моделі з налаштуванням стилю відповідей.
Користувачі фіксували випадки, коли чат-ботописувавпомилки у коді як “маленьких гоблінів” абоназивавсебе “гобліном з ліхтариком”. У більшості моментів модель використовувала подібні образи без прямого запиту.
ВАС ЗАЦІКАВИТЬЛюди почали говорити мовою чат-ботів: дослідники фіксують зміни мовлення
OpenAI заявила, що в березні фактично деактивувала так звану “ботанічну” особистість, яка заохочувала грайливу мову. Водночас ефект її впливу зберігався і проявлявся в інших версіях моделі, зокрема вновій GPT-5.5.
Менеджер із продуктів OpenAI Баррон Рот пов’язав дивну поведінку бота з використаннямінструмента OpenClaw, який дозволяє створювати персоналізованих ШІ-помічників на базі різних моделей. Характер таких ботів задається за допомогою спеціального набору інструкцій — “файла душі”, проте саме в цій конфігурації асистент почав вживати нетипові слова про гоблінів.
“Ніколи не говоріть про гоблінів, гремлінів, єнотів, тролів, огрів, голубів або інших тварин чи істот, якщо це не є абсолютно і однозначно актуальним для запиту користувача”, — йдеться в оновлених інструкціях компанії для інструменту кодування.
ВАС ЗАЦІКАВИТЬЧат-боти з ШІ масово допомагають планувати насильницькі напади — дослідження
У внутрішньому аналізі OpenAI пояснила, що проблема виникла через систему підкріплення, яка заохочувала грайливий стиль відповідей. Це призвело до закріплення специфічних мовних шаблонів, зокрема згадок про вигаданих істот.
Компанія зазначила, що такі “лексичні тики” могли поширюватися між різними режимами моделі навіть після зміни налаштувань. У результаті подібні слова почали з’являтися в ширшому спектрі відповідей, ніж планувалося.
OpenAI додала, що вже внесла зміни до навчальних даних і системи підказок, щоб обмежити повторення подібної поведінки. Також оновлено інструменти моніторингу для виявлення подібних мовних аномалій у майбутніх версіях моделей.
Раніше повідомлялося, що великі мовні моделідемонструють різке падіння надійностіпід час багаторівневих розмов. Після аналізу понад 200 тисяч чатів дослідники зафіксували зростання ненадійності на 112%, навіть якщо загальна придатність моделей знизилася лише на 15%.