Злиття AI та Web3 викликає нові проблеми безпеки, DeFAI стає в центрі уваги

Нещодавно в Стамбулі відбулася блокчейн-активність, що зосередилася на тенденціях інтеграції AI та Web3, ставши важливою ареною для обговорення безпеки Web3 цього року. Під час заходу кілька експертів галузі провели поглиблену дискусію щодо стану застосування технологій AI в децентралізованих фінансах (DeFi) та викликів безпеки.

З розвитком великих мовних моделей та AI-агентів формується абсолютно нова фінансова парадигма — децентралізоване штучне інтелектуальне фінансування (DeFAI). Однак ця зміна також приносить нові вектори атак та безпекові ризики. Експерти, що беруть участь у конференції, зазначили, що хоча у DeFAI є великі перспективи, це також вимагає від нас переосмислення механізмів довіри в децентралізованих системах. На відміну від смарт-контрактів, що базуються на фіксованій логіці, процес прийняття рішень AI-агентів підлягає впливу контексту, часу та навіть історичних взаємодій; ця непередбачуваність не лише посилює ризики, але й створює можливості для зловмисників.

AI-агенти за своєю суттю є інтелектуальними агентами, які здатні приймати самостійні рішення та виконувати їх на основі логіки ШІ, зазвичай вони працюють за授权 користувачем, протоколом або DAO. Найяскравішим представником є AI-торгові роботи. Наразі більшість AI-агентів працює на основі архітектури Web2, покладаючись на централізовані сервери та API, що робить їх вразливими до атак через ін'єкції, маніпуляцій моделей або фальсифікації даних. У разі захоплення це може призвести не лише до втрати коштів, але й вплинути на стабільність всього протоколу.

Експерти, які брали участь у конференції, також згадали про典型ну ситуацію атаки: коли AI-трейдинговий агент DeFi-користувача відстежує повідомлення в соціальних мережах як торгові сигнали, зловмисник публікує фальшиві тривоги, такі як "якийсь протокол зазнав атаки", що може спонукати агента терміново розпочати екстрене очищення. Така операція не лише призводить до втрат активів користувача, але й викликає коливання ринку, які зловмисник може використати через попередню торгівлю.

Щодо вищезазначених ризиків, учасники зустрічі вважають, що безпека AI-агентів не повинна бути покладена на одну сторону, а є спільною відповідальністю користувачів, розробників та третіх сторін безпеки. По-перше, користувачі повинні чітко усвідомлювати обсяг прав, які має агент, обережно надаючи ці права, а також звертати увагу на перевірку високоризикових операцій AI-агента. По-друге, розробники повинні впроваджувати заходи захисту вже на етапі проектування, такі як: укріплення підказок, ізоляція в пісочниці, обмеження швидкості та логіка відкату тощо. А компанії з безпеки третьої сторони повинні проводити незалежний аудит поведінки моделей AI-агентів, інфраструктури та способів інтеграції в блокчейн, а також співпрацювати з розробниками та користувачами, щоб виявляти ризики та пропонувати заходи для їх пом'якшення.

Експерт з безпеки застеріг: "Якщо продовжувати сприймати AI-агентів як 'чорні ящики', то інциденти безпеки в реальному світі — це лише питання часу." Для розробників, які досліджують напрямок DeFAI, він дав пораду: "Як і в разі смарт-контрактів, логіка поведінки AI-агентів також реалізується за допомогою коду. Оскільки це код, існує ймовірність атаки, тому потрібно провести професійний аудит безпеки та тестування на проникнення."

З розвитком технологій блокчейн та глибокої інтеграції штучного інтелекту, проблеми безпеки в галузі DeFAI стануть основною темою уваги в індустрії на найближчий період. Знайти баланс між інноваціями та безпекою стане важливим викликом для всієї галузі.