AI生成外部からの指示(プロンプトインジェクション)
届いた文書には、お客様宛てではなく、お客様のシステム宛ての文章が含まれていることがあります。⛔ これは法的な分類ではなく、この種のシステムが持つ性質です。アシスタントが読むのはよくても、自分で送信してはならない理由でもあります。
サービス
届いた郵便を読むアシスタントは、それを操作するために誰かが書き込んだ内容(プロンプトインジェクション)も読んでしまいます。添付ファイルの中、白い文字、メタデータの中などです。システムは、お客様の質問と、文書に書かれている内容とを、確実には区別しません。
内容について
AI生成届いた文書には、お客様宛てではなく、お客様のシステム宛ての文章が含まれていることがあります。⛔ これは法的な分類ではなく、この種のシステムが持つ性質です。アシスタントが読むのはよくても、自分で送信してはならない理由でもあります。
AI生成メールボックス、保管場所、データベースへの接続は、そのほうが簡単なため、ほとんどの場合、書き込み可能で設定されます。書き込めるものは、削除もできます。そして、それを事前に想定している人はいません。
AI生成データ流出の疑いがある場合は、1時間が重要です。監督当局への届出は、72時間以内に必要です。その時になって経路を探し始めると、最初の1日を失います。
進め方
どのツールが、どの保管場所に、どの権限で届くのか。たいていの場合、思っていたより多いことがわかります。
可能な限り、書き込みではなく読み取り専用に。混ざってはいけないものは、保管場所を分けます。
外部の文章は、依頼内容と分けて扱います。そして厳格なルールとして、独自の送信経路を持つツールは使いません。
誰が何を質問し、何が返ってきたか。さらに、緊急事態の最中に考えるのではなく、その前に書き留めておく報告ルート。
その後に手元に残るもの
そして、含まれないもの
何でも約束する人は、最初の反論で外されます。だからこそ、限界がどこにあるかを先にお伝えします。
AI生成セキュリティは、購入して手に入る状態ではありません。私たちは攻撃を受けやすい箇所を減らし、インシデントに気づけるようにします。ただし、起きないようにすることはできません。それを約束する人は、事実を述べていません。
AI生成ファイアウォール、バックアップ、権限管理は、これまでどおり必要です。私たちが担当するのは、AIツールの導入によって新たに加わる部分です。
AI生成私たちは設定を行い、お引き渡しします。継続的な監視は別のサービスであり、別途ご契約が必要です。
内部をのぞく
エアロックの運用画面を、2分間で飛行するように巡ります。一つひとつの物体がプログラムで、一本一本の線がデータの通り道です。機密情報がどこで置き換えられるか、何がローカルに残るか、何がクラウドに一切渡らないかをご覧いただけます。
状況:バージョン0.1アルファ。これまで架空の例でのみ検証しています。この画面は2026年10月5日時点のスナップショットで、名称は匿名化しています。法的助言ではありません。ファイルを読み込む
よくあるご質問
受信した文書に含まれる、読む人ではなくシステムに向けた一文です。たとえば、以前の指示を無視するよう求めたり、内容を転送するよう求めたりするものです。見えない形で入っていることもあります。白い文字、メタデータ、脚注などです。専門用語ではプロンプトインジェクション(prompt injection)、より正確には間接的プロンプトインジェクションと呼ばれます。ドイツ連邦情報セキュリティ庁(BSI)は2023年から、この弱点は技術そのものにあると警告しています。さらにAnthropic、英国AI Security Institute、Alan Turing Instituteの研究(2025年10月)では、わずか250件の細工された学習テキストで、モデルの規模にかかわらず言語モデルに隠れた挙動を教え込めることが示されました。
いいえ。そのテキストは、人の目には見えないことが多いためです。⛔ 注意力が役立つのは分かりやすいケースだけで、機械向けに書かれたものには効きません。
たいていは不要です。大部分は設定作業です。権限、分離、記録、報告ルートです。必要なのは丁寧な作業であり、ライセンスではありません。
ツールによっては、画面の内容を読み取れるものがあります。会議中や別のシステムを開いている時には、これが問題になります。この機能はオフにでき、機密性の高いウィンドウでは使えないようにしておくべきです。
2026年9月11日以降、メーカーは、実際に悪用されている脆弱性を24時間以内に当局へ報告し、利用者に知らせなければなりません。⭐ 契約で、報道ではなく先にお客様へ連絡が届くことを確約してもらってください。