Автор книги, присвяченої темі правди в умовах розвитку штучного інтелекту, опинився під пильним контролем після того, як стало відомо про використання ним фейкових цитат. Ці цитати були згенеровані чатботами та включені до тексту без належної перевірки чи уточнення їхнього походження. Критики зазначають, що цей випадок ілюструє серйозні етичні проблеми у сфері наукової комунікації та авторства в епоху цифрових технологій. Згідно з інформацією, яка була оприлюднена
У новій книзі письменника, співзасновника Центру сталого розвитку медіа Стівена Розенбаума з назвою «Майбутнє правди: як ШІ змінює реальність» виявили понад пів десятка фейкових цитат, згенерованих чатботами. Про цеповідомилижурналісти The New York Times.
Автор книги визнав, що до книги увійшли вигадані або неправильно приписані цитати, але, за його словами, це трапилося випадково, і він не мав наміру вигадувати точки зору під час написання.
«Як я розкрив у подяках до книги, я використовував інструменти штучного інтелекту ChatGPT та Claude під час дослідження, написання та редагування. Це не виправдовує цих помилок, за які я несу повну відповідальність. Зараз я працюю з редакторами, щоб ретельно переглянути та швидко виправити будь-які пошкоджені уривки; будь-які майбутні видання будуть виправлені»,— сказав Розенбаум у своїй заяві.
Одну із фейкових цитат у книзі приписали журналістці Карі Свішер.
«Найдосконаліша модель ШІ — це дзеркало, що відображає нашу мораль: відшліфовану та чітку, але зрештою порожню всередині. Вона не обмежена законами Азімова чи будь-якими етичними рамками — вона обмежена закономірностями в її навчальних даних та цілями, поставленими її творцями»,— йдеться в уривку.
За словами Свішер, вона цього не казала, тоді як ChatGPT, на думку журналістки, змусив її звучати «наче зануда».
В іншому розділі про вплив соцмереж та фейкових відео на підлітків є одразу дві цитати нібито з книги професорки психології Лізи Фельдман Барретт:«Емоції — це не просто реакції на правду, вони є тим, як ми конструюємо правду. (...) Коли молоді люди кажуть, що щось "відчувається правдою", вони описують складний процес творення сенсу, який інтегрує емоційні та соціальні сигнали».
Однак Барретт заперечила, що ці цитати були в її книзі.
Також до видання увійшли кілька реальних цитат, приписаних не тим людям або джерелам.
За словами Розенбаума, його помилка стане уроком і «попередженням щодо ризиків використання ШІ та необхідності фактчекінгу».
«Ці помилки насправді не применшують ширших питань, які порушує книга про правду, довіру та штучний інтелект, а також його вплив на суспільство, демократію та діяльність редакцій», — сказав він.
Фото: Non-Obvious/інстаграм