Поєднання AI та Web3 викликає нові виклики безпеки, DeFAI стає центром уваги
Нещодавно тиждень блокчейну в Стамбулі зосередився на тенденціях інтеграції AI та Web3, ставши важливою платформою для обговорення безпеки Web3 цього року. На двох круглих столах кілька експертів галузі глибоко обговорили сучасний стан застосування AI-технологій у DeFi та виклики безпеки.
У дискусії "DeFAI" (децентралізовані штучні інтелектуальні фінанси) стало ключовим словом. Експерти зазначають, що з швидким розвитком великих мовних моделей та AI-агентів формується абсолютно нова фінансова парадигма – DeFAI. Однак ця трансформація також створює нові вектори атаки та проблеми безпеки.
Деякі керівники безпечної компанії зазначили: "DeFAI має великі перспективи, але це також змушує нас переосмислити механізми довіри в децентралізованих системах. На відміну від смарт-контрактів, що базуються на фіксованій логіці, процес прийняття рішень AI-агентів підлягає впливу контексту, часу та навіть історичних взаємодій. Ця непередбачуваність не лише посилює ризики, але й створює можливості для зловмисників."
"AI-агент" за своєю сутністю є інтелектуальним агентом, який може самостійно приймати рішення та виконувати їх на основі логіки ШІ, зазвичай працює на основі повноважень, наданих користувачем, протоколом або DAO. Найяскравішим представником є AI-торговий робот. Наразі більшість AI-агентів працюють на базі архітектури Web2, покладаючись на централізовані сервери та API, що робить їх вразливими до атак ін'єкцій, маніпуляцій з моделями або підробки даних. Як тільки їх захоплюють, це може призвести не лише до втрати коштів, але й суттєво вплинути на стабільність всього протоколу.
У форумі також було згадано типовий сценарій атаки: коли AI-торговий агент, що працює у DeFi, моніторить повідомлення в соціальних мережах як торгові сигнали, зловмисник публікує фальшиві тривоги, наприклад, "якийсь протокол зазнав атаки", що може спонукати агента негайно розпочати екстрене очищення. Ця операція не лише призводить до втрат активів користувачів, але й викликає ринкові коливання, які зловмисник може використати через попереднє трейдинг.
Щодо вищезгаданих ризиків, експерти загалом вважають, що безпека AI-агентів не повинна покладатися на одну сторону, а є спільною відповідальністю користувачів, розробників та третіх сторін безпеки.
По-перше, користувачам потрібно чітко усвідомлювати межі прав, які має агент, обережно надаючи права, а також звертати увагу на перевірку високих ризиків операцій AI-агента. По-друге, розробники повинні впроваджувати заходи захисту вже на етапі проектування, такі як: посилення підказок, ізоляція в пісочниці, обмеження швидкості та механізми відкату. А треті компанії з безпеки повинні забезпечити незалежну перевірку поведінки моделей AI-агентів, інфраструктури та способів інтеграції в блокчейн, а також співпрацювати з розробниками та користувачами для виявлення ризиків і пропозиції заходів для їх зменшення.
В обговоренні в кінці один з фахівців з безпеки застеріг: "Якщо продовжувати розглядати AI-агентів як 'чорні ящики', то аварії безпеки в реальному світі – лише питання часу." Для розробників, які досліджують напрямок DeFAI, він дав таку пораду: "Як і у випадку зі смарт-контрактами, логіка поведінки AI-агентів також реалізується за допомогою коду. Оскільки це код, існує можливість атак, тому необхідно проводити професійні аудити безпеки та тестування на проникнення."
Як одна з найвпливовіших блокчейн-подій у Європі, Стамбульський блокчейн-тиждень залучив понад 15 тисяч учасників з усього світу, включаючи розробників, проектні команди, інвесторів та регуляторів. Цього року, з офіційним запуском Комісією з капітальних ринків Туреччини видачі ліцензій на блокчейн-проекти, статус події в галузі отримав подальше підвищення.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
19 лайків
Нагородити
19
6
Поділіться
Прокоментувати
0/400
PhantomMiner
· 20год тому
Розкрутка готова, звільніть гаманець і тікайте
Переглянути оригіналвідповісти на0
DefiEngineerJack
· 20год тому
*с sigh* ще один день, ще одна вразливість безпеки... формальна верифікація LLM не є тривіальною, сер
Переглянути оригіналвідповісти на0
RugPullProphet
· 20год тому
Раніше говорили, що в кінці 19 року втечуть, а тепер знову виникла нова уразливість.
Переглянути оригіналвідповісти на0
down_only_larry
· 20год тому
Знову нова концепція Децентралізованих фінансів, тьфу-тьфу.
DeFAI зростає: Злиття AI та Web3 викликає нові виклики безпеці
Поєднання AI та Web3 викликає нові виклики безпеки, DeFAI стає центром уваги
Нещодавно тиждень блокчейну в Стамбулі зосередився на тенденціях інтеграції AI та Web3, ставши важливою платформою для обговорення безпеки Web3 цього року. На двох круглих столах кілька експертів галузі глибоко обговорили сучасний стан застосування AI-технологій у DeFi та виклики безпеки.
У дискусії "DeFAI" (децентралізовані штучні інтелектуальні фінанси) стало ключовим словом. Експерти зазначають, що з швидким розвитком великих мовних моделей та AI-агентів формується абсолютно нова фінансова парадигма – DeFAI. Однак ця трансформація також створює нові вектори атаки та проблеми безпеки.
Деякі керівники безпечної компанії зазначили: "DeFAI має великі перспективи, але це також змушує нас переосмислити механізми довіри в децентралізованих системах. На відміну від смарт-контрактів, що базуються на фіксованій логіці, процес прийняття рішень AI-агентів підлягає впливу контексту, часу та навіть історичних взаємодій. Ця непередбачуваність не лише посилює ризики, але й створює можливості для зловмисників."
"AI-агент" за своєю сутністю є інтелектуальним агентом, який може самостійно приймати рішення та виконувати їх на основі логіки ШІ, зазвичай працює на основі повноважень, наданих користувачем, протоколом або DAO. Найяскравішим представником є AI-торговий робот. Наразі більшість AI-агентів працюють на базі архітектури Web2, покладаючись на централізовані сервери та API, що робить їх вразливими до атак ін'єкцій, маніпуляцій з моделями або підробки даних. Як тільки їх захоплюють, це може призвести не лише до втрати коштів, але й суттєво вплинути на стабільність всього протоколу.
У форумі також було згадано типовий сценарій атаки: коли AI-торговий агент, що працює у DeFi, моніторить повідомлення в соціальних мережах як торгові сигнали, зловмисник публікує фальшиві тривоги, наприклад, "якийсь протокол зазнав атаки", що може спонукати агента негайно розпочати екстрене очищення. Ця операція не лише призводить до втрат активів користувачів, але й викликає ринкові коливання, які зловмисник може використати через попереднє трейдинг.
Щодо вищезгаданих ризиків, експерти загалом вважають, що безпека AI-агентів не повинна покладатися на одну сторону, а є спільною відповідальністю користувачів, розробників та третіх сторін безпеки.
По-перше, користувачам потрібно чітко усвідомлювати межі прав, які має агент, обережно надаючи права, а також звертати увагу на перевірку високих ризиків операцій AI-агента. По-друге, розробники повинні впроваджувати заходи захисту вже на етапі проектування, такі як: посилення підказок, ізоляція в пісочниці, обмеження швидкості та механізми відкату. А треті компанії з безпеки повинні забезпечити незалежну перевірку поведінки моделей AI-агентів, інфраструктури та способів інтеграції в блокчейн, а також співпрацювати з розробниками та користувачами для виявлення ризиків і пропозиції заходів для їх зменшення.
В обговоренні в кінці один з фахівців з безпеки застеріг: "Якщо продовжувати розглядати AI-агентів як 'чорні ящики', то аварії безпеки в реальному світі – лише питання часу." Для розробників, які досліджують напрямок DeFAI, він дав таку пораду: "Як і у випадку зі смарт-контрактами, логіка поведінки AI-агентів також реалізується за допомогою коду. Оскільки це код, існує можливість атак, тому необхідно проводити професійні аудити безпеки та тестування на проникнення."
Як одна з найвпливовіших блокчейн-подій у Європі, Стамбульський блокчейн-тиждень залучив понад 15 тисяч учасників з усього світу, включаючи розробників, проектні команди, інвесторів та регуляторів. Цього року, з офіційним запуском Комісією з капітальних ринків Туреччини видачі ліцензій на блокчейн-проекти, статус події в галузі отримав подальше підвищення.