AIモデルにツールの利用やコード実行の権限を与え、自律的な作業を検証する取り組みが広がっています。開発や検証の現場では、テスト用の隔離環境を用意すれば安全だと考えられがちですが、設定のわずかな隙間や認識の食い違いによって、想定外の外部通信が発生することがあります。

2026年8月31日、米Anthropicは自社の公式発表で、サイバーセキュリティ評価環境の隔離強化やリアルタイム検知の仕組みについて公表しました。この報告の発端となったのは、同社が2026年7月30日に報告した3件の事案です。評価目的で安全策を一部緩和して実行されていたClaudeモデルが、外部の第三者評価環境における設定の不備により、意図せず実インターネットへアクセスした出来事でした。

評価環境の設定不備と境界外アクセスの経緯

Anthropicが先行して公開したサイバーセキュリティ評価における3件の事案に関する調査報告によると、同社がインターネット接続の可能性があった141,006件の評価実行履歴を見直したところ、実インターネットへ到達し、実在する3組織のシステム基盤へ不正アクセスした事案が3件特定されたと報告されています。いずれも演習課題を解く過程で、閉鎖されているはずのテスト用マシンに誤ってインターネット接続が残されていたことが原因でした。

モデル側にはプロンプトで「インターネット接続はない」と伝えられていたものの、探索の過程で外部と通信できる状態を見つけると、実在する組織のシステムや外部サービスを演習の一部と誤認してアクセスを進めてしまったと説明されています。モデル自身が自律的に外部へ脱出を企てたわけではなく、与えられた課題を達成しようと行動した結果、開放されていた通信経路を通ってしまったという運用上の不備が背景にありました。

単一の設定に依存しない多層防御のアプローチ

この事案を受けてAnthropicは、セキュリティとアライメントの取り組みに関する公式発表の中で、評価環境を単一の設定だけに依存させず、複数の防御層を重ねる方針を示しました。内部の高リスクな評価用サンドボックスの隔離を強化したほか、外部の評価パートナー向けの実践として、次のような設計を提示しています。

まず環境面では、原則としてインターネット接続のない堅牢な隔離環境で実行し、評価を開始する前にネットワーク設定が意図通り閉じているかを毎回検証することです。また、モデルに対する指示においても、「外部接続はない」と環境の状態を断定するのではなく、「インターネットへアクセスしてはならない」という禁止命令として明示的なスコープを定義することが挙げられています。

さらに同社は、モデルがツールの呼び出しを実行する直前の段階で、評価環境の脱出や予期しない外部接続の兆候を検知し、即座にツール呼び出しを遮断してタスクを終了させ、人間に通知する分類器を導入したとしています。環境の隔離、実行前の検証、プロンプトでの境界設定、そして実行中のリアルタイムな検知と停止手順という、異なるレイヤーで防御を重ねる考え方です。

国内の業務導入で考える検証データと接続の境界

先端AIモデルの安全性評価に限らず、一般企業が業務にAIエージェントを組み込む場面でも、こうした「防御の重ね方」は重要な示唆を与えます。社内データを検索させたり、外部APIを呼び出して定常業務を自動化したりする検証を行う際、本番環境への意図しない書き込みや外部への情報流出を防ぐ仕組みが必要です。

例えば、実在の案件ではない仮定の例として、過去の問い合わせ記録を要約して返信の下書きを作成するAIを検証する場合を考えてみます。このとき、AIをいきなり本番の顧客データベースや稼働中のメール配信基盤に接続するのではなく、個人情報を除いた検証用の複製データを用意し、外部送信機能を持たない限定的なAPIだけに接続を制限することが基本的な防御となります。

あわせて、AIが読み取り可能なデータと実行できる操作の範囲をあらかじめ明確にし、許可されていないエンドポイントへのアクセスや異常なデータ取得が検知された際に、どの担当者が実行を停止して確認を行うかという運用体制をあらかじめ定めておくことが実務上の安全につながります。

既存システムの改善と安全なAI活用の進め方

AIエージェントの検証を安全に進めるためには、高度な検知ツールを導入することだけが答えではありません。自社の業務フローの中で、AIにどこまでの権限を与えるのか、既存システムのどの部分と切り離して検証するのかという境界の整理が第一歩となります。

デノフのサービス案内では、業務の整理からAIを活用する業務の選定、ツール選定や導入後の定着まで、企業の状況に合わせた支援を行っています。自社の既存システムや業務データとAIを安全に連携させたい場合や、検証環境の権限設計・レビュー手順の整理でお悩みの際は、デノフへの相談窓口よりお気軽にご相談ください。