Повна автономність штучного інтелекту, розробленого компанією Anthropic, викликала серйозні занепокоєння серед представників бізнесу та експертів у галузі технологій. Відзначається, що новітні можливості ШІ можуть суттєво змінити традиційні моделі ведення бізнесу і поставити під загрозу безпеку даних. Зокрема, критики вказують на те, що зростаюча автономія систем штучного інтелекту може призвести до непередбачуваних наслідків. Це стосується не лише етичних аспектів використання таких технолог
Компанія Anthropic готує до виходу на ринок свою нову розробку Mythos, яку раніше вважали надто небезпечною для публічного доступу через ризики використання у кібератаках.
Про цеповідомляєBloomberg.
Одночасно з підготовкою до лістингу на фондовій біржі керівництво стартапу намагається врегулювати потенційні загрози на міжнародному рівні.
Зокрема, проводяться закриті брифінги з глобальними фінансовими інституціями та релігійними лідерами, щоб пом'якшити наслідки від майбутнього релізу.
Головною причиною занепокоєння корпоративних клієнтів, особливо у сфері фінансів та енергетики, став стрімкий розвиток автономності систем Anthropic. Сучасні інструменти програмування, як-от Claude Code, здатні самостійно виконувати складні завдання годинами без людських підказок.
Окрім цього, розробники почали приховувати детальні протоколи процесів за замовчуванням, перетворюючи алгоритми на «чорну скриньку», що суттєво ускладнює контроль за їхньою роботою.
Представники великого бізнесу побоюються, що надання ШІ надмірної незалежності унеможливить визначення відповідальних осіб у разі масштабних збоїв.
Попри вимоги користувачів повернути більше важелів керування людям, в Anthropic заявляють про високу безпеку продуктів і планують надалі зменшувати потребу в людському втручанні.
Бекграунд.Раніше Mind повідомляв, щоAnthropic націлиласяна $20 млрд доходу попри конфлікт із Білим домом. Поки компанія відхиляє запити спецслужб США на стеження, її доходи зросли з $14 млрд до $19 млрд за кілька тижнів.
Якщо ви дочитали цей матеріал до кінця, ми сподіваємось, що це значить, що він був корисним для вас.
Ми працюємо над тим, аби наша журналістська та аналітична робота була якісною, і прагнемо виконувати її максимально компетентно. Це вимагає і фінансової незалежності.
Станьте підписникомMindвсього за 196 грн на місяць та підтримайте розвиток незалежної ділової журналістики!
Ви можете скасувати підписку у будь-який момент у власному кабінеті LIQPAY, або написавши нам на адресу:[email protected].