AIとWeb3の融合が新たなセキュリティ課題を引き起こし、DeFAIが焦点に

最近、イスタンブールのブロックチェーンウィークでは、AIとWeb3の融合トレンドに焦点が当てられ、今年のWeb3セキュリティに関する重要な議論のプラットフォームとなりました。二つの円卓フォーラムでは、多くの業界専門家がDeFiにおけるAI技術の適用状況とセキュリティの課題について深く議論しました。

議論の中で、「DeFAI」（分散型人工知能金融）がキーワードとなっています。専門家たちは、大規模言語モデルとAIエージェントの急速な進展に伴い、全く新しい金融のパラダイム——DeFAIが徐々に形成されていると指摘しています。しかし、この変革は全く新しい攻撃面と安全上のリスクももたらしました。

あるセキュリティ会社の幹部は次のように述べています："DeFAIは広範な展望を持っていますが、分散型システムにおける信頼メカニズムを再考する必要があります。固定論理に基づくスマートコントラクトとは異なり、AIエージェントの意思決定プロセスは文脈、時間、さらには歴史的な相互作用の影響を受けます。この予測不可能性はリスクを増大させるだけでなく、攻撃者に利用される隙を与えます。"

! IBW 2025:AIとWeb3の融合、DeFAIの台頭による新たなセキュリティ課題

"AIエージェント"は本質的にAIロジックに基づいて自主的に意思決定と実行が可能な知能体であり、通常はユーザー、プロトコル、またはDAOによって権限を与えられて運営されます。その中で、最も典型的な代表はAIトレーディングボットです。現在、大多数のAIエージェントはWeb2のアーキテクチャ上で運営されており、中央集権的なサーバーとAPIに依存しているため、注入攻撃、モデル操作、データ改ざんなどの脅威に対して脆弱です。一度ハイジャックされると、資金の損失を引き起こす可能性があるだけでなく、プロトコル全体の安定性にも影響を与える可能性があります。

フォーラムでは、典型的な攻撃シナリオについても言及されました。DeFiユーザーが運営するAIトレーディングエージェントが取引信号としてソーシャルメディアのメッセージを監視しているときに、攻撃者が虚偽の警告を発表することがあります。たとえば、「あるプロトコルが攻撃を受けている」といった内容です。これにより、そのエージェントが即座に緊急清算を開始するよう誘導される可能性があります。このような操作は、ユーザーの資産損失を引き起こすだけでなく、市場の変動を引き起こし、それを攻撃者が先行取引で利用することになります。

上記のリスクに対して、専門家たちはAIエージェントの安全性は特定の一方が単独で負うべきではなく、ユーザー、開発者、そして第三者のセキュリティ機関の共同責任であると広く考えています。

まず、ユーザーは代理人が持つ権限の範囲を明確に理解し、慎重に権限を付与する必要があります。また、AI代理の高リスクな操作を監査することにも注意を払うべきです。次に、開発者は設計段階で防御策を実施するべきであり、例えば、プロンプトの強化、サンドボックスの隔離、レート制限、フォールバックロジックなどのメカニズムが含まれます。さらに、第三者のセキュリティ会社は、AI代理のモデルの振る舞い、インフラストラクチャ、そしてオンチェーン統合方法に対して独立した監査を行い、開発者やユーザーと協力してリスクを特定し、緩和策を提案するべきです。

ディスカッションの最後に、セキュリティ専門家は警告しました："AIエージェントを'ブラックボックス'として扱い続けると、現実世界での安全事故は時間の問題に過ぎません。"DeFAIの方向性を探求している開発者に対して、彼が出したアドバイスは："スマートコントラクトと同様に、AIエージェントの行動ロジックもコードによって実装されています。コードである以上、攻撃される可能性があるため、専門的なセキュリティ監査とペネトレーションテストが必要です。"

ヨーロッパで最も影響力のあるブロックチェーンイベントの一つとして、イスタンブールブロックチェーンウィークは、世界中の開発者、プロジェクト関係者、投資家、規制当局を合わせて15,000人以上を引き付けました。今年、トルコ資本市場委員会が正式にブロックチェーンプロジェクトのライセンス発行を開始することで、このイベントの業界内での地位がさらに向上しました。

! IBW 2025:AIとWeb3の融合、DeFAIの台頭による新たなセキュリティ課題