AIエージェントの自律性と安全性は両立できるのか？ BENTOから考えるリスク管理
AIが「考える」だけでなく「行動する」時代
生成AIは、文章作成や情報検索、質問への回答など、さまざまな業務で活用されています。
一方、AIエージェントでは、AIが目的に応じてツールや外部システムを利用し、実際の処理を進めることができます。
便利になる反面、企業には新しい課題が生まれます。
AIが実行できることと、実行を許可してよいことは、必ずしも同じではありません。
2026年10月16日に公開されたPwC Japanのレポートでも、AIエージェントの普及に伴い、権限や行動を管理する重要性が取り上げられています。
自律性を高めるほど、管理は難しくなる？
例えば、AIエージェントがブロックチェーン上で取引を実行するケースを考えてみます。
すべての取引を人間が確認すれば、判断の機会を設けることはできます。
しかし、そのたびに承認を待つ必要があれば、自律的に処理を進めるメリットは小さくなります。
反対に、すべての取引を無条件に実行させる場合、想定外の行動に対するリスク管理が課題になります。
ここで重要なのは、すべて許可するか、すべて止めるか、という二択にしないことだと考えています。
BENTOが目指すアプローチ
1BITLABの「BENTO」は、AIエージェントによるオンチェーン取引の行動リスクを確認するプロジェクトです。
AIエージェントが取引を実行する前にリスクをチェックし、状況に応じて次の判断を行います。
Approve（承認）
取引を承認する判断です。
Require Extra Confirmation（追加確認）
追加の確認を必要とする判断です。
Reject（拒否）
取引を拒否する判断です。
この仕組みのポイントは、AIエージェントの行動を一律に禁止するのではなく、リスクに応じて対応を分けることです。
BENTOは、AIエージェントの自律性を活かしながら、オンチェーン取引におけるリスク管理を支援することを目指しています。
企業がAIエージェントを導入する際に考えたいこと
BENTOが扱うのはオンチェーン取引ですが、AIエージェントの導入を検討する企業にとっても、次の問いは重要ではないでしょうか。
AIにどのような操作を許可するのか？
どの操作に人間の確認が必要なのか？
想定外の行動をどのように検知するのか？
問題が起きた場合、誰が対応するのか？
これらはAIモデルの性能だけでは解決できない、システム設計や運用に関わる問題です。
もちろん、BENTOが企業のあらゆるAIエージェントや業務システムを保護するという意味ではありません。BENTOの対象は、AIエージェントによるオンチェーン取引とその行動リスクです。
まとめ：自律性を止めるのではなく、適切に管理する
AIエージェントの価値は、自律的に行動できることにあります。
だからこそ、どのような条件で実行を許可し、どのような場合に追加確認や拒否を行うかという設計が重要になります。
AIの自律性を活かすことと、安全性を考えることは、対立する目標ではありません。
1BITLABでは、BENTOを通じて、AIエージェントの自律的な行動とオンチェーン取引のリスク管理という課題に取り組んでいます。
皆さんは、AIエージェントの自律性と安全性のバランスについて、どのように考えていますか？
参考資料：
PwC Japan（2026年10月16日）
https://www.pwc.com/jp/en/knowledge/thoughtleadership/cyber-risk-of-ai-agents.html
BENTO：https://bentoguard.xyz/
1BITLAB：https://www.1bitlab.io/
