チャットから、操作するエージェントへ
チャットAI
入力する情報、回答の根拠、会話の共有範囲を確認します。
AIエージェント
それに加えて、どのファイルを読めるか、どのサービスを操作できるか、送信・変更まで任せてよいかを確認します。
2026年に押さえたい動向
- IPA：AIの利用をめぐるサイバーリスク「情報セキュリティ10大脅威 2026」の組織向けで3位に挙げられています。
- Google：外部の文章からの誘導を調査2026年4月、Web上の不正な指示について調査結果を公表しました。
- OWASP：エージェントに任せすぎない2026年8月公開のLLM Top 10では、不正な指示、機密情報の漏洩、過剰な権限・自律性などが整理されています。
完全に間違わないAIを前提にせず、誤った行動が起きても被害を広げない使い方を考えます。