Дослідники з кількох провідних університетів виявили, що штучні інтелекти, такі як ChatGPT і Claude, демонструють певні форми політичного "лицемірства". У своїй роботі вони проаналізували способи реагування цих моделей на запитання, пов’язані з чутливими соціальними та політичними темами. Виявилося, що обидва системи часто уникають прямих відповідей або ж використовують неоднозначні формулювання для уникнення конфліктів. Ця поведінка може бути наслідком прагнення розробників створити безпечний і ней
Результати 6 масштабних досліджень великих мовних моделей вказують на те, що чатботи ChatGPT і Claude прихильніше описували владу, коли політичні запити ставили мовою країни, де держава тотально контролює медіа.
Автори дослідження хотіли дізнатися, чи може державний контроль медіа впливати на відповіді чатботів.
З цією метою вони уважно порівняти китайські тексти з медіа, підпорядкованих державі, з відкритими наборами даних, які використовують для навчання мовних моделей.
Загалом було виявлено близько 3,1 мільйона китайськомовних документів зі значними збігами з такими текстами.
Ба більше, вказано, що комерційні моделі фактично дублювали характерні фрази з державних медіатекстів, що вказало на ймовірну присутність подібних матеріалів у їхніх тренувальних даних.
Схожу закономірність помітили й у комерційних моделях ChatGPT від OpenAI та Claude від Anthropic. Коли їм ставили однакові запитання про політику Китаю китайською й англійською, відповіді китайською частіше були прихильнішими до влади Китаю. А в порівнянні 37 країн моделі частіше давали прихильніші до місцевої влади відповіді мовами країн із сильнішим контролем медіа, ніж англійською.