У світі штучного інтелекту триває активна дискусія щодо темпів його розвитку та потенційних ризиків, які можуть виникнути внаслідок цього прогресу. Засновник компанії Anthropic, яка займається розробкою технологій штучного інтелекту, висловив стурбованість з приводу швидкого впровадження нових систем ШІ без достатнього контролю і регуляції. Він закликав усіх учасників галузі "натиснути на гальма", підкреслюючи важливість обережності у подальшому розвитку цієї технології. Виступаючи
Штучний інтелектнаближається до межі, яка ще недавно вважалася науковою фантастикою. Нові системи ШІ могли б зробити свій внесок, поряд з людьми, у відкриття, гідне Нобелівської премії, у наступні 12 місяців, на думку співзасновника Anthropic Джека Кларка.
Паралельно з цим експерти галузі заговорили про можливість появи компаній, керованих повністю штучним інтелектом, а також про стрімке поширення гуманоїдних роботів у повсякденній діяльності, пишеEVZ.
У лекції, прочитаній в Оксфордському університеті, Кларк попередив, що все ще існують правдоподібні сценарії, за яких технологія може мати екстремальні наслідки, заявивши, що існують ситуації, в яких вона мала б "ймовірність вище нуля вбити все населення планети", і підкресливши, що "важливо чітко заявити, що цей ризик не зник".
У тому ж контексті він описав нинішній темп розвитку ШІ як такий, що важко контролювати, і припустив, що суспільство не готове до його довгострокових наслідків.
Він також стверджує, що було б краще уповільнити технологічний розвиток, щоб дати більше часу для адаптації, кажучи, що було б краще, якби люди могли уповільнити прогрес, "щоб надати нам більше часу як виду" для розуміння наслідків.
Проте він вважає цей сценарій малоймовірним, оскільки розвиток технології підтримується паралельно численними гравцями та державами, що перебувають у безперервній конкуренції, в якій комерційні та геополітичні суперництва схильні відсувати на другий план ризики, пов'язані зі створеними технологіями.
Кларк є однією з центральних фігур компанії Anthropic, заснованої дослідниками, які покинули OpenAI через розбіжності, пов'язані з безпекою ШІ.
Компанія, відома своєю моделлю Claude, нещодавно розробила також версію під назвою Mythos, про яку стверджується, що вона продемонструвала високі здібності в тестах з кібербезпеки.
Водночас компанія зазнала критики з боку прихильників прискорення розвитку ШІ, зокрема з політичної сфери, які звинуватили її в тому, що вона є "алармістською" з метою впливу на регулювання – звинувачення, які Anthropic відкинула.
Кларк стверджує, що багато людей все ще перебувають на етапі заперечення щодо реальної швидкості прогресу штучного інтелекту. "Незабаром він буде більш здібним, ніж ми всі разом узяті", – попередив він. Він порівняв неготовність до ШІ з труднощами реагування під час пандемії COVID-19.
"Якщо ми будемо сидіти склавши руки і дозволимо штучному інтелекту розмножуватися, то ми в кінцевому підсумку будемо змушені реагувати", – додав він.
Критики великих компаній у цій галузі, таких як Anthropic, OpenAI та Google, попереджають, що залежність від декількох домінуючих моделей може створити "єдину точку відмови" у глобальних інфраструктурах.
Водночас професор Едвард Харкорт, директор Інституту етики у сфері ШІ та співорганізатор конференції, попередив про можливі когнітивні ефекти, спричинені широкомасштабним використанням цих систем.
Він заговорив про ризик виникнення "когнітивної атрофії", яка може знизити аналітичні здібності та здатність до судження людей, і підтримав розробку моделей типу "сократівського ШІ", створених для стимулювання мислення користувачів.
На думку Кларка, навіть найобережніша оцінка майбутньої еволюції може принести великі зміни в економіку та суспільство, включаючи можливий розрив між людською діяльністю та діяльністю автоматизованих систем.
Раніше УНІАН повідомляв,чого не може штучний інтелект.
Джерела
ШІ наближається до наукової фантастики: творець Claude закликав "натиснути на гальма" — (УНІАН)