Глава компанії Scale AI, відомої у сфері штучного інтелекту, висловив серйозну критику на адресу сучасних технологій ІІ. У своїх заявах він підкреслив численні ризики та етичні питання, які виникають внаслідок швидкого розвитку цих технологій. Зокрема, він зазначив, що зростаюча залежність суспільства від штучного інтелекту може призвести до непередбачуваних наслідків для економіки та соціальної структури. Критика стосується не лише технічних аспектів роботи алгоритмів і моделей машинного навчання
Цена ошибок может быть крайне высокой.
Генеральный директор Scale AIДжейсон Дрогезаявил в интервьюAxios, что современные системы искусственного интеллекта недостаточно надежны для использования в критически важных сферах — от бизнеса до государственных и военных задач (перевод — сайтCharter97.org).
По его словам, цена ошибок в таких условиях может быть крайне высокой, что сдерживает более широкое внедрение технологий. Компания Scale AI, которой в этом году исполнилось 10 лет и в которой Meta приобрела значительную долю, стремится позиционировать себя не только как платформу разметки данных, но и как инфраструктурного игрока в сфере ИИ.
Дроге представил внутреннюю концепцию компании под названием «гонка за надежностью». В служебной записке для более чем 1300 сотрудников он подчеркнул, что ключевая задача — сделать искусственный интеллект достаточно надежным для реальных сценариев использования.
Он отметил, что надежность ИИ невозможно обеспечить без участия человека. Инженеры компании адаптируют решения под конкретные задачи клиентов, снижая риск ошибок.
По словам Дроге, клиенты часто сталкиваются с противоречием. ИИ может работать идеально в большинстве случаев, но редкие серьезные ошибки подрывают доверие к технологии. Именно этот разрыв между ожиданиями и реальностью, по его мнению, тормозит внедрение.
Глава Scale AI также подчеркнул, что индустрия перегружена «хайпом». «Мы живем в один из самых динамичных периодов в истории. Невнимательность — прямой путь к провалу», — заявил он, добавив, что успех зависит от способности выделять главное и системно доводить это до результата.