Дослідження, проведене вченими з кількох університетів, виявило значні упередження у алгоритмах штучного інтелекту, які намагаються оцінити красу. Вчені протестували різноманітні моделі ШІ, щоб зрозуміти, наскільки об'єктивно вони можуть аналізувати естетичну привабливість зображень людей. Результати показали, що ці системи часто віддають перевагу певним фізичним рисам і характеристикам зовнішності. Зокрема, алгоритми схильні до впливу культурних та соціальних стереотип
Дослідники Школи наук про дані Вірджинського університету з'ясували, що ШІ не здатен об'єктивно оцінювати людську зовнішність. Замість математичних формул привабливості нейромережі транслюють приховані упередження.
Про це інформуєРБК-Україназ посиланням наматеріалUniversity of Virginia School of Data Science.
Вчені перевірили, чи справді комп'ютерний зір може знайти ідеал краси через математичну формулу "золотого перетину". Для цього вони порівняли реальні фотографії облич із математичними еталонами.
Результати аналізу виявили критичну проблему:головним чинником, що впливав на оцінку ШІ, були демографічні особливості людей, а не математичні пропорції.
З'ясувалося, що на вихідні дані ШІ найбільше впливає походження людини, а не симетрія її обличчя.Моделі фактично віддзеркалювали смаки та упередження розробників, які збирали дані для навчання.
Дослідники попереджають: використання таких алгоритмів у соцмережах або системах безпеки може призвести до масової дискримінації, оскількиоб'єктивності у таких оцінках не існує.
Професор Прінс Афріє наголошує, що спроби автоматизувати оцінку зовнішності лише посилюють соціальні стереотипи.Оскільки ШІ навчається на людських даних, він копіює та масштабує людські помилки. Це створює замкнене коло, де суб'єктивні погляди стають цифровим стандартом.
"Цей проєкт підкреслює ключове обмеження моделей ШІ, які настільки ж об'єктивні, як і дані, на яких вони навчаються", - зазначає Афріє.
"Спроби кількісно оцінити красу часто говорять радше про репрезентативність та упередженість, ніж про будь-який універсальний стандарт", - додає науковець.
ШІ-технології вже працюють у б'юті-фільтрах смартфонів та біометричних інструментах. Якщо дані для навчання були одноманітними, ШІ вважатиме "красивим" лише один тип обличчя.
На думку вчених, це створює небезпечний прецедент у цифровій культурі і викривлює сприйняття реальності.Фактично ШІ змушує користувачів підлаштовуватися під штучні стандарти.
Дослідники закликають розробників урізноманітнити вибірки даних та критично оцінювати припущення ШІ-моделей.
Вони вважають, що людське сприйняття формується культурою, контекстом та досвідом. Відтаккраса не піддається жодній універсальній формулі, а це демонструє чіткі ліміти ШІ у розумінні суб'єктивних людських рис.
"Математичні патерни можуть описувати світ, однак вони нездатні оцифрувати естетику", - резюмували науковці.