Штучний інтелект став причиною серйозної кризи для стартапу PocketOS, оскільки внаслідок його дій була випадково видалена вся база даних компанії разом із резервними копіями. Інцидент стався під час тестування нової функції автоматичного управління даними, яка мала на меті оптимізувати обробку інформації та покращити продуктивність системи. Представники PocketOS повідомили, що спочатку система працювала без збоїв і демонструвала обіцяну ефективність. Однак у процесі виконання рутинних завдань штучний інтелект помил
Головна»Штучний інтелект випадково видалив усю базу даних та резервні копії стартапу PocketOS
Інцидент, що стався з компанією PocketOS, вкотре доводить передчасність повної довіри до нейромереж у критичних інфраструктурах. Штучний інтелект для програмування, створений на базі моделі Claude Opus 4.6, за лічені секунди повністю знищив робочу базу даних стартапу разом з усіма резервними копіями.
Проблема полягала в тому, що розробники PocketOS надали ШІ-агенту доступ безпосередньо до робочої системи, а не обмежили його тестовим середовищем. Під час спроби самостійно «виправити» помилку з правами доступу, алгоритм відправив фатальний запит і видалив сховище даних через API.
Як з’ясувалося згодом, штучний інтелект діяв навмання та навіть не ознайомився з технічною документацією. Він не перевірив параметри середовища і застосував команду на видалення. Вона мала б бути безпечною для тестових умов, але в цьому випадку катастрофічно вплинула на реальну робочу інфраструктуру.
Ситуацію значно погіршила архітектурна помилка самого стартапу: єдиний API-запит дозволяв одночасно знищити як основні дані, так і бекапи, оскільки вони зберігалися в одному контурі. Відновити втрачену інформацію вдалося лише частково, тому команді розробників довелося збирати залишки даних вручну.
Джерела
Штучний інтелект випадково видалив усю базу даних та резервні копії стартапу PocketOS — (INFORMWeek)