評価スコアを落さず短縮候補を返す仕組み

元テンプレートから短縮候補の生成と判定を経て、条件合致による短縮プロンプト返却と不合致による元テンプレート返却に分岐し、変数データが独立枠で示されたフロー図

AWSは2026年10月20日、プロンプトの自動最適化機能に関するアップデートとして、Amazon Bedrock Advanced Prompt Optimization now supports prompt shortening - AWSを公開しました。これまで品質向上を主目的としていた最適化処理に対し、プロンプトの長さを抑える選択肢が加わった形です。

この機能の特徴は、最適化後の候補が返却される条件です。短縮設定を有効にした場合、生成された候補が元のプロンプトより短く、かつ利用者が指定した評価基準で元と同等以上のスコアを獲得したときに限って新しいプロンプトが返されます。いずれかの条件を満たさなかった場合は元のプロンプトがそのまま返却され、圧縮率は1.0と記録されます。自動最適化によってプロンプトが不用意に長くなったり、評価上の品質が低下したりする事態を避けられる設計です。

テンプレート単位の設定と保持したい文言の指定

具体的な設定方法や制約については、公式ガイドであるShorten prompts - Amazon Bedrockで詳しく説明されています。短縮設定は既定では無効になっており、ジョブ作成APIのリクエストパラメータではなく、入力JSONLファイル内の各プロンプトテンプレートに対して個別に指定する仕様です。

入力ファイルの各行にあるオブジェクト内へ「optimizationConfig」を追加し、「shortenPrompt」をtrueに設定することで有効化します。テンプレートごとに設定できるため、長さを抑えたい指示文だけに短縮を適用し、他のテンプレートは品質重視のまま維持するといった使い分けが可能です。ただし、「500トークンに収める」といった具体的な目標数値を直接指定することはできず、短縮の適用自体をオンかオフかで選択する仕様となっています。

業務用の指示文には、変更されては困る業務ルールや定型文が含まれることが少なくありません。公式ガイドによると、選択的最適化タグを使用している場合、短縮処理は書き換えを許可した箇所だけに適用されます。advpo:excludeタグなどで保護した部分はそのまま保持されるため、担当者への引き継ぎ条件や法的な免責事項などを固定したまま、背景説明や表現の言い回し部分だけを簡潔に整えることが可能です。

圧縮率の対象と実業務での注意点

出力結果に表示されるトークン数や圧縮率を確認する際は、その対象がどこを指しているのかを把握しておく必要があります。公式ガイドに明記されている通り、計測対象は変数展開前の「プロンプトテンプレート全体」であり、変数を代入した後のプロンプトや、モデルが生成する回答の長さではありません。

また、短縮後のプロンプトでは元の構造や詳細な表現が必ずしも維持されるとは限りません。さらに、返却条件が保証するのはあらかじめ設定した評価データ上でのスコアです。そのため公式ドキュメントでも、最適化処理に使用していない別の業務データ（held-out data）を用いて、短縮後のプロンプトが意図した品質を保てているかを事後検証することが推奨されています。

国内業務への応用と進め方の仮定例

この仕組みを実際の業務へ導入する場面として、たとえば国内EC事業者が商品情報と顧客からの問い合わせ本文を変数としてプロンプトに流し込み、一次回答の下書きを生成しているケースを考えてみます。

まずは現在のプロンプトから、顧客情報や商品データといった動的に渡す部分と、AIの役割や口調を定めた固定の指示文を明確に切り分ける作業が必要です。そのうえで、返品ポリシーの案内や「判断に迷った場合は担当者へ引き継ぐ」といった必須の運用ルールを洗い出し、変更してはならない文言として除外指定の対象にします。短縮を試すのは、役割の前提説明や表現を整える指示部分に絞るのが現実的です。

短縮の実行にあたっては、代表的な質問パターンだけでなく、例外的な問い合わせを含めた評価例を用意します。最適化ジョブが短縮候補を返してきたら、評価には使っていなかった実際の過去ログなどを通して回答内容を比較し、文面のニュアンスや業務システムの受け渡し形式に崩れがないかを確かめたうえで本番へ反映するかどうかを判断します。

業務整理とシステム連携のご相談

プロンプトの最適化を業務システムで活かすには、単に指示文を短くするだけでなく、AIに任せる範囲の切り分けや、変更してはいけないルールの整理、実務に即した評価データの作成が不可欠です。デノフのサービス案内でもご紹介している通り、弊社では問い合わせ対応をはじめとする日常業務の棚卸しから、活用するツールの選定、既存の社内システムと連携させた回答確認画面の設計まで一貫して支援しています。

既存のプロンプトが長くなり見直しを検討している場合や、担当者が安全に回答を確認できる運用フローを整えたい企業様は、具体的な要件が固まる前の段階でもデノフへの相談窓口よりお気軽にご相談ください。業務の特性に合わせた現実的な進め方を一緒に具体化いたします。