Вчені з кількох провідних дослідницьких установ зробили значний крок у розвитку штучного інтелекту, навчившись відстежувати та контролювати рішення нейромереж. Ця нова технологія дозволяє не лише зрозуміти, як саме штучний інтелект приймає свої рішення, а й вносити корективи у процес його навчання. Дослідження показало, що традиційні методи роботи з нейромережами часто залишаються непрозорими для користувачів. Це викликало занепокоєння щодо безпеки та етики використання ШІ в різних
Науковці з Університету Лафборо (Велика Британія) представили математичний план проєктування прозорих ШІ-систем. Нова розробка дозволяє точно відстежувати, як алгоритм навчається, запам’ятовує інформацію та робить висновки
Про це повідомляєРБК-Україназ посиланням на результати дослідження, опубліковані у фаховому вісникуPhysica D: Nonlinear Phenomena.
Команда розробила ШІ-систему, що імітує ключові аспекти людського мислення. На відміну від звичайних нейромереж, цей прототип виконує такі функції:
Безперервно навчається: алгоритм не втрачає старих знань при отриманні нових (проблема, відома як "катастрофічне забування").
Уникає хибних спогадів: система не створює дезінформації у процесі обробки даних.
Пояснює логіку: кожна дія ШІ є передбачуваною та простежуваною.
Під час перших тестів прототип самостійно вивчив музичні ноти та короткі фрази без допомоги людини, а також успішно ідентифікував кольори на зображеннях. Весь процес обробки даних був повністю прозорим для дослідників.
В основі нового підходу лежить концепція "пластичного векторного поля". Це математична модель, яка описує, як інформація змінюється з часом, відображаючи процеси обробки та зберігання даних у справжньому мозку.
"Ми хотіли переосмислити ШІ з самого початку. Ми побудували систему, де внутрішня робота когніції є повністю відкритою", - пояснила провідна авторка дослідження, докторка Наталія Янсон.
Вчені намагалися відповісти на фундаментальні питання,що є "кодом" мозку та як пов’язані пам’ять і фізична структура.
Автори дослідження також проаналізували чинні алгоритми та дійшли висновку, що їхні обмеження закладені у самій конструкції.
"Актуальний дизайн ШІ робить неможливим повний контроль над тим, як системи навчаються та зберігають дані. Це не просто технічна перешкода, а вроджений дефект", - пояснюють дослідники.
Саме через цесучасний ШІ часто не може пояснити, чому він зробив той чи інший вибір. Як наслідок, його впровадження у критично важливих сферах викликає радше скепсис, ніж ентузіазм.
Наразі система є прототипом, що потребує масштабування для реального використання. Проте вчені впевнені, що їхня робота наближає людство до технологій, на які можна впевнено покластися у повсякденному житті.
У чому дослідники вбачають перспективу:
Безпечна система охорони здоров'я: діагностичні інструменти, логіку яких лікарі зможуть перевірити.
Підзвітні рішення: автоматизовані ШІ-системи у судах чи банківській сфері, які працюватимуть прозоро.
Нове залізо: розробка спеціального обладнання, адаптованого під "прозору" математичну модель.
Вчені ставлять собі за мету створити потужний ШІ, який буде не просто ефективним, а насамперед зрозумілим та вартим довіри.
Джерела
ШІ, який можна контролювати: вчені навчилися відстежувати рішення нейромереж — (РБК-Україна)