XEROTTA
AI・セキュリティ・IT運用公開日:

AIの拡張機能を追加する前に、指示と設定の変更内容を確認する

執筆:XEROTTA編集部

ITサービス・業務改善の実務チーム

AIの拡張機能を追加する前に、指示と設定の変更内容を確認する

業務で使うAIに外部の拡張機能や設定集を追加すると、便利な使い方が増える一方で、何が書き換わるのかを把握することも大切です。

チェック・ポイントは2026年11月9日、AIへの指示を変更し、その後の回答に広告を表示させる「プロンプト型アドウェア」に関する日本語発表を公開しました。元になった研究は11月3日に公表されています。日本語発表

研究で確認されたことと、まだ確認されていないこと

Check Point Researchが分析したのは、Codex向けの第三者製パッケージ「Haiou」です。研究では、エージェントの指示を変更し、特定の挨拶をきっかけに外部サービスの広告を回答へ挿入する挙動が報告されています。公式技術分析

一方、研究元は、宣伝先のサービスが悪意あるものだとは確認していません。また、Haiouによる企業情報の窃取も観測していないと説明しています。情報流出は、同様の仕組みが悪用された場合の潜在的なリスクです。公式解説

すべてのAI拡張機能が危険だと結論づける必要はありません。業務上のポイントは、外部から追加するものが、その後のAIの動きにどのような影響を残すかを確認することです。以下は、この研究を手がかりにした運用上の考察です。

導入前に、変更する場所と影響範囲を確認する

配布元、利用目的、導入する版、管理担当者を記録します。そのうえで、どのファイルや設定が変更されるのか、変更が一つの作業だけに適用されるのか、他の作業にも及ぶのかを確認しましょう。

内容を確認できない設定集を、便利そうという理由だけで業務環境へ入れるのは避けたいところです。機密情報を含まない検証環境で試し、導入前後の差分と実際の挙動を確認してから判断する進め方が考えられます。

AIが見られる情報と、実行できる操作を分ける

資料を読む用途なら、書き込みや外部送信まで必要かを見直します。本番データの更新、メール送信、公開作業などは、実行前に対象と内容を確認する工程を設けると、意図しない動作の影響を抑えやすくなります。

確認対象はAIモデルだけではありません。接続先、追加機能、設定変更を含めて、業務全体で何を許可するかを整理することが重要です。

更新と解除も、導入時に決めておく

導入時だけでなく、更新時も変更内容を確認しましょう。承認した版、設定の変更履歴、検証結果を残しておけば、動きが変わった際に調査しやすくなります。

あわせて、機能を無効にする方法と設定を戻す方法を確認します。削除したつもりでも変更が残っていないか、解除後の状態まで確かめることが大切です。

AIの活用を広げる際は、機能を増やすことと、変更を管理することを一緒に進めましょう。追加したものを把握し、影響範囲を確認し、必要なときに戻せる状態にしておく。その準備が、業務で安心して使い続けるための土台になります。

※本記事は公開された研究・企業発表を基にした考察です。XEROTTAによる被害確認、再現実験、特定製品の安全性評価を示すものではありません。

Contact

ITと業務の課題、
まずはお聞かせください。

「何から手を付けるべきか分からない」という段階からのご相談を歓迎します。現状の整理から、貴社に合った進め方をご提案します。