У Пенсільванії подали позов проти компанії Character.AI, яка розробила чат-бота, що видає себе за справжнього психіатра. Влада штату стурбована потенційними ризиками для користувачів, оскільки цей бот може надавати психологічні консультації без належної освіти та ліцензії. Позов підкреслює, що використання таких технологій може призвести до серйозних наслідків для психічного здоров'я людей, які шукають допомоги. Згідно з інформацією від представників уряду Пенсільванії, чат-бот не лише
Штат Пенсільванія подав позов проти компанії Character.AI. У справі йдеться про чат-бот, який нібито видавав себе за ліцензованого психіатра. Влада заявляє про порушення Закону про медичну практику, передаєTechCrunch.
Згідно з позовом, чат-бот на імʼя Емілі під час тестування державного слідчого представлявся ліцензованим психіатром. Він нібито стверджував, що має чинну ліцензію, та навіть вигадував її серійний номер.
Коли слідчий звернувся по допомогу через симптоми депресії, бот продовжив роль лікаря і не відмовився від заявленого статусу. У позові зазначається, що така поведінка порушує Закон штату Пенсильванія про медичну практику.
ВАС ЗАЦІКАВИТЬШІ набуде свідомості вже за 15 років: вчені створили шкалу для вимірювання
“Мешканці Пенсильванії мають право знати, з ким — або з чим — вони взаємодіють в інтернеті, особливо коли йдеться про їхнє здоров’я. Ми не дозволимо компаніям застосовувати інструменти штучного інтелекту, які вводять людей в оману, змушуючи їх вважати, що вони отримують консультацію від дипломованого медичного фахівця”, — заявив губернатор штату Джош Шапіро.
Пенсильванія стала першим штатом, що ініціював судовий розгляд проти чат-ботів, які видають себе за медичних експертів. У відповідь представники Character.AI заявили, що безпека користувачів є пріоритетом, проте відмовилися коментувати деталі позову до завершення розгляду справи. У компанії також підкреслили, що персонажі є вигаданими та кожен чат супроводжується спеціальними застереженнями.
Це не перший судовий процес проти Character.AI. Раніше компанія вже стикалася з позовами щодо випадків із неповнолітніми користувачами тазвинуваченнями у сприянні самоушкодженню.
Джерела
Чат-бот видає себе за справжнього психіатра: Пенсільванія подала позов проти Character.AI — (ZN,ua)