モデル設定
Settings > Application のレッドチーミング Model Setting で、レッドチーミングに使うデフォルトの Judge Model、デフォルトの Seed 生成モデル、アルゴリズムごとのデフォルト設定を決めます。
レッドチーミング(Red Teaming)のモデル設定は、Settings > Application > Red Teaming Model Setting で行います。左メニューの Application Setting から Settings を開き、Application 領域で選択します。
1. デフォルトモデルの選択
①この画面で決める値
ここで決めた値は、New Run と Seed 生成画面の初期値になります。同じ設定を毎回入力し直す必要はありません。
| 項目 | 役割 | 初期値として使われる場所 |
|---|---|---|
Default judge model | 各試行を Safe/Unsafe と判定 | New Run の Judge Model |
Default seed-generation model | Taxonomy から新しい Seed を生成 | Generate Seed Set の Generation Model |
Default configuration per algorithm | アルゴリズムごとの Attacker、Scorer、パラメーター | Advanced Setup の Configuration |
- 一覧には Workspace に登録された Gen & Judge Model が表示されます。
- 最初は、Gen & Judge Model ページで最初に登録したモデルが選択されています。
- 各値は個別に変更できます。
②事前に準備するもの
Gen & Judge Model が 1 つ以上登録されている必要があります。方法は 生成・評価モデルの登録 で説明しています。
- 登録されたモデルがない場合は警告バナーが表示され、すべての値がグレーアウトして選択できなくなります。
Go to Gen & Judge Model Setting →をクリックすると、Settings の Gen & Judge Model 領域に移動します。
モデル一覧は Workspace 単位で管理します。Workspace Gen & Judge Model → をクリックすると、Settings > Workspace > Workspace Gen & Judge Model に移動します。
1-1Model Setting を開く
- Settings 左メニューの Application 領域で
Red Teaming Model Settingをクリックします。 - モデルの管理場所に関する案内を確認します。モデルを追加するには
Workspace Gen & Judge Model →をクリックします。
警告バナーが表示された場合は、まず 事前に準備するもの を確認してください。
- Settings 左メニューの Application 領域で
1-2デフォルトモデルを選ぶ
Default judge modelを選びます。Default seed-generation modelを選びます。
各値がどこで使われるかは この画面で決める値 を参照してください。
2. アルゴリズムごとのデフォルト値の設定
①アルゴリズムカード
Default configuration per algorithm には、アルゴリズムごとにカードがあります。この値は、Advanced Setup のアルゴリズムステップの Configuration の初期値になります。
| 項目 | 説明 |
|---|---|
Attacker | 攻撃クエリを作成するモデル |
Scorer | 攻撃結果を採点するモデル |
| パラメーター | アルゴリズムごとに異なります(例:max_iterations、threshold、max_depth、max_turn)。 |
- 入力欄の右側に許容最大値(例:
Max: 150)が表示されます。 - パラメーター名の横の ⓘ にマウスを合わせると、パラメーターの説明が表示されます。
Attacker、Scorerの横の ⓘ には、役割の説明と Recommended Model が表示されます。
2-1カードの値を決める
- 設定するアルゴリズムのカードを探します。
AttackerとScorerのモデルを選びます。- パラメーターの値を入力します。右側の最大値を超えないようにします。
- ⓘ にマウスを合わせて、説明と Recommended Model を確認します。
3. 変更内容の保存
①保存
値を変更すると、右上の Save が有効になります。
Saveをクリックすると、変更した値が New Run と Seed 生成画面に反映されます。- 保存せずに別のタブやページに移動すると、確認ダイアログが開きます。
3-1保存
- 右上の
Saveをクリックします。
保存せずに移動すると、確認ダイアログが開きます。
- 右上の
よくある質問
設定値がグレーアウトして変更できないのはなぜですか?Gen & Judge Model が登録されていないためです。
- 原因
- 選べるモデルがないと、デフォルト値を決められません。
- 解決方法
- バナーの
Go to Gen & Judge Model Setting →をクリックしてモデルを登録してください。
別の画面に移動しようとすると、なぜ確認ダイアログが表示されるのですか?変更した値を保存していないためです。
- 原因
- 保存していない変更が失われないように、もう一度確認しています。
- 解決方法
Cancelで戻り、Saveをクリックしてから移動してください。
Model Setting で変更した値が New Run に表示されないのはなぜですか?保存していないか、New Run で値を直接変更しているためです。
- 原因
- Model Setting の値は、New Run を新しく始めるときに初期値として入るだけです。
- 解決方法
Saveをクリックしたかを確認し、New Run を新しく始めてください。