Уряд Сполучених Штатів розглядає можливість запровадження нових заходів контролю за штучним інтелектом, які передбачатимуть перевірку моделей перед їх публічним запуском. Цей крок викликаний зростаючими занепокоєннями щодо безпеки та етики використання технологій ШІ, а також ризиками, пов'язаними з дезінформацією і непрогнозованою поведінкою алгоритмів. Зокрема, Білий дім прагне забезпечити відповідність нових моделей певним стандартам безпеки та ефективності. Це може включати в себе оц
Адміністрація Дональда Трампа обговорює можливість запровадження державного нагляду за моделями штучного інтелекту. Йдеться про можливу перевірку систем до їхнього публічного запуску. Зміна курсу відбувається після появи потужних та потенційно небезпечних технологій, таких якMythos від Anthropic, повідомляєThe New York Times.
За словами американських чиновників, Білий дім обговорює створення спеціальної робочої групи, яка займатиметься оцінкою таких систем. Йдеться про потенційний указ, який об’єднає представників уряду та технологічних компаній для розробки процедур контролю. Серед ідей — формалізований процес перевірки нових моделей ШІ перед їхнім запуском.
Раніше урядовці Білого дому провелизустрічі з керівниками Anthropic, Google та OpenAI, де обговорювали ці ініціативи. За даними джерел NYT, робоча група може орієнтуватися на підхід Великої Британії, де кілька державних органів контролюють відповідність ШІ стандартам безпеки.
OpenAI презентувала урядам новий кіберінструмент з розширеними можливостями ШІ
Зокрема, в Білому домі розглядають можливість залучення кількох структур до контролю за ШІ, зокрема офісу національного кібердиректора та розвідувальних органів. Додатково можуть переглянути роль Центру стандартів та інновацій у сфері ШІ, створеного за адміністрації Байдена.
Обговорення означають різкі зміни в політиці адміністрації Трампа щодо штучного інтелекту. Після повернення до влади він дотримувався стратегії розвитку технологійбез жодних регуляторних обмежень, прагнучи забезпечити США беззаперечне глобальне лідерство у перегонах із Китаєм.
“Ми зробимо цю галузь абсолютно провідною, адже зараз вона — як прекрасне немовля, що щойно народилося. Ми маємо виростити це немовля і дати йому можливість розвиватися… Ми не можемо зупинити його політикою. Ми не можемо зупинити його безглуздими правилами”, — заявляв Трамп раніше.
Федеральні агентства США тестують новий ШІ Anthropic попри заборону Трампа — Politico
Надзвичайний і Повноважний Посол УкраїниСергій Корсунськийу своїй статті “ШІ без обмежень: план Трампа як дороговказ до прірви” наголошував, що відсутність нагляду за нейромережами створює безпрецедентні ризики для світової безпеки та соціальної стабільності. Такий підхід, за його словами, ігнорує загрози дезінформації, використання технологій терористами та катастрофічні екологічні наслідки через надмірне споживання енергії дата-центрами.
Додатковим фактором стала поява моделі Mythos від Anthropic. Компанія заявила, що система настільки ефективна у виявленні вразливостей у програмному забезпеченні, що може спричинити “переломний момент” у кібербезпеці, і вирішила не відкривати її для широкого доступу. Нещодавно адміністрація Дональда Трампа такожзаборонила масштабувати цей ШІ.
У Білому домі побоюються політичних наслідків можливих кібератак із використанням ШІ. Також адміністрація оцінює, чи можуть нові моделі бути корисними для Міністерства війни США та розвідувальних служб. Нагадаємо, щоПентагон вже уклав сім угодз провідними технологічними компаніями для використання їх інструментів.
OpenAI обмежує доступ до ШІ Cyber після критики подібної політики Anthropic
Деякі чиновники виступають за систему, яка надасть уряду пріоритетний доступ до нових моделей без блокування їхнього релізу. Водночас частина технологічних компаній застерігає, що надмірний контроль може сповільнити розвиток США у конкуренції з Китаєм.
Ймовірна зміна підходу відбувається на тлі зростання суспільного занепокоєння щодовпливу ШІ на робочі місця, енергоспоживання, освіту, конфіденційність і психічне здоров’я. ЗаданимиPew Research Center, близько половини американців — як республіканців, так і демократів — більше стурбовані, ніж захоплені розвитком технології.
Офіційно Білий дім поки не підтвердив підготовку указу, називаючи обговорення “спекуляціями”. Остаточне рішення, за словами представників адміністрації, має оголосити сам президент.
Ажіотаж довкола Mythos від Anthropic: чому нова модель ШІ налякала уряди та світові банки
Ситуацію ускладнюєконфлікт між Anthropic і Пентагономщодо контракту на 200 мільйонів доларів та використання ШІ у військових цілях. Міністерство війни США вимагало від компанії надати доступ до моделі Claudeдля “всіх законних цілей”, тоді якAnthropic наполягала на обмеженнях, зокрема щодо застосування ШІ в масовому стеженні та автономній зброї.
Згодом міністр оборони Піт Хегсет офіційно визнав Anthropicризиком для ланцюга постачання, що фактично мало заблокувати використання її продуктів у контрактах Пентагону й не тільки. Anthropic намагаєтьсяоскаржити це рішення в суді, проте наразі вінпідтримав позицію Пентагону.
Попри це, технології Anthropic частково використовуються урядом, зокрема в системі Maven для аналізу розвідданих і визначення цілей. Також модельMythos застосовувалася Агентством національної безпекидля оцінки кіберзагроз.