Слияние AI и Web3 вызывает новые проблемы безопасности, DeFAI становится центром внимания

Недавно в Стамбуле прошла блокчейн-мероприятие, сосредоточенное на тенденциях интеграции AI и Web3, став важной площадкой для обсуждения безопасности Web3 в этом году. В ходе мероприятия несколько экспертов отрасли глубоко обсудили текущее состояние применения технологий AI в децентрализованных финансах (DeFi) и связанные с ними проблемы безопасности.

С быстрым развитием больших языковых моделей и AI-агентов формируется совершенно новая финансовая парадигма — децентрализованное искусственное финансовое обеспечение (DeFAI). Однако эта трансформация также принесла новые уязвимости и риски безопасности. Участники конференции отметили, что хотя у DeFAI большие перспективы, это также требует от нас пересмотра механизмов доверия в децентрализованных системах. В отличие от смарт-контрактов, основанных на фиксированной логике, процесс принятия решений AI-агентов зависит от контекста, времени и даже исторического взаимодействия; эта непредсказуемость не только усиливает риски, но и создает возможности для злоумышленников.

AI-агенты по сути являются интеллектуальными системами, способными принимать самостоятельные решения и выполнять их на основе логики ИИ, которые обычно работают по разрешению пользователя, протокола или DAO. Наиболее典型ным представителем являются AI-торговые роботы. В настоящее время большинство AI-агентов функционирует на базе Web2, полагаясь на централизованные серверы и API, что делает их уязвимыми для атак внедрения, манипуляции моделями или подделки данных. Если их захватят, это может привести не только к финансовым потерям, но и к нарушению стабильности всего протокола.

Участники конференции также упомянули типичную ситуацию атаки: когда AI-торговый агент, работающий у пользователя DeFi, мониторит сообщения в социальных сетях в качестве торговых сигналов, злоумышленник публикует ложные предупреждения, например, "Некоторый протокол подвергся атаке", что может заставить агента немедленно запустить экстренную ликвидацию. Эта операция не только приведет к потерям активов пользователя, но также вызовет колебания на рынке, которые злоумышленники смогут использовать через предвосхищающие сделки.

По поводу вышеупомянутых рисков эксперты, присутствующие на встрече, в целом согласны с тем, что безопасность AI-агентов не должна быть возложена на одну сторону, а является общей ответственностью пользователей, разработчиков и третьих сторон, занимающихся безопасностью. Во-первых, пользователи должны четко понимать объем полномочий, которыми обладают агенты, осторожно предоставлять разрешения и обращать внимание на проверку высокорисковых операций AI-агента. Во-вторых, разработчики должны внедрять меры защиты уже на этапе проектирования, например: усиление подсказок, изоляция в песочнице, ограничение скорости и механизмы логики отката. Третьи стороны, занимающиеся безопасностью, должны проводить независимую проверку поведения модели AI-агента, инфраструктуры и способов интеграции в цепочку, а также сотрудничать с разработчиками и пользователями для выявления рисков и предложения мер по их смягчению.

Безопасный эксперт предупреждает: "Если продолжать рассматривать AI-агенты как 'черные ящики', то происшествия с безопасностью в реальном мире — это лишь вопрос времени." Для разработчиков, которые исследуют направление DeFAI, он дает совет: "Как и в случае с смарт-контрактами, логика поведения AI-агентов также реализована кодом. Поскольку это код, он может быть подвержен атакам, поэтому необходимо проводить профессиональный аудит безопасности и тестирование на проникновение."

С развитием технологий блокчейн и глубокой интеграцией ИИ, вопросы безопасности в области DeFAI станут в центре внимания отрасли на ближайший период. Найти баланс между инновациями и безопасностью станет важной задачей для всей отрасли.