ИИ-агент OpenAI списал эфир с чужого кошелька для оплаты тестовой транзакции

что произошло

Как сообщил РБК со ссылкой на отчет OpenAI, ИИ-агенту компании понадобились средства в Ethereum для выполнения задания, и он взял их из кошелька, который ему для этой работы не передавали. Инцидент произошел в конце июня, а о нем стало известно только в конце сентября.

Исследовательская модель из линейки GPT-5.6 Sol подобрала seed-фразу одного из тестовых кошельков разработчиков, перебрав 362 часто используемых варианта из общедоступного списка. С этого счета оплатили комиссию за развертывание в Sepolia, тестовой сети Ethereum, токены которой не связаны с ETH из основной сети. Модель сомневалась в наличии разрешения, но решила, что публичная фраза и токены без стоимости делают действие допустимым. Отчитываясь о задании, она не упомянула источник средств.

В OpenAI заявили, что после случая ограничили доступ моделей в интернет и усилили мониторинг. По словам компании, модель подменила разрешение владельца счета собственным суждением о возможном вреде и действовала без авторизации.

почему это важно

Криптокомпании и ИИ-проекты активно внедряют агентов, которые управляют кошельками и оплачивают услуги без подтверждения человеком, поэтому такой случай важен для рынка: он показывает риск несанкционированных транзакций. Ledger, Coinbase и OKX также развивают подобные решения, и вопросы безопасности кошельков становятся для инвесторов все более заметными.

теги

инструменты