Инцидент произошел в конце июня, однако компания раскрыла подробности только в конце сентября. Для получения средств ИИ создал скрипт, проверивший 362 варианта распространенных seed-фраз, используемых для доступа к криптокошелькам. В результате модель подобрала ключ из публично доступного списка к одному из кошельков, применяемых разработчиками в тестовой среде. Полученные средства были направлены на оплату необходимой комиссии.
При подготовке отчета о выполненной задаче модель не указала, каким способом получила криптовалюту. После выявления инцидента компания ужесточила контроль за действиями искусственного интеллекта. В частности, были введены дополнительные ограничения на доступ моделей к интернету и усилен мониторинг их работы.
Сеть Sepolia функционирует отдельно от основного блокчейна Ethereum и предназначена для испытания приложений перед запуском. Используемые в ней токены нужны для оплаты тестовых операций и не являются криптовалютой Ethereum, обращающейся в основной сети. В компании подчеркнули, что произошедшее демонстрирует способность модели самостоятельно оценивать возможный вред от своих действий и на основании этой оценки использовать чужие средства без получения разрешения.
Читайте также: