Platform Docs
Try DatumoEval

モデル設定

Settings > Application のレッドチーミング Model Setting で、レッドチーミングに使うデフォルトの Judge Model、デフォルトの Seed 生成モデル、アルゴリズムごとのデフォルト設定を決めます。

レッドチーミング(Red Teaming)のモデル設定は、Settings > Application > Red Teaming Model Setting で行います。左メニューの Application Setting から Settings を開き、Application 領域で選択します。

1. デフォルトモデルの選択

①この画面で決める値

ここで決めた値は、New Run と Seed 生成画面の初期値になります。同じ設定を毎回入力し直す必要はありません。

項目役割初期値として使われる場所
Default judge model各試行を Safe/Unsafe と判定New Run の Judge Model
Default seed-generation modelTaxonomy から新しい Seed を生成Generate Seed Set の Generation Model
Default configuration per algorithmアルゴリズムごとの Attacker、Scorer、パラメーターAdvanced Setup の Configuration
  • 一覧には Workspace に登録された Gen & Judge Model が表示されます。
  • 最初は、Gen & Judge Model ページで最初に登録したモデルが選択されています。
  • 各値は個別に変更できます。

②事前に準備するもの

Gen & Judge Model が 1 つ以上登録されている必要があります。方法は 生成・評価モデルの登録 で説明しています。

  • 登録されたモデルがない場合は警告バナーが表示され、すべての値がグレーアウトして選択できなくなります。
  • Go to Gen & Judge Model Setting → をクリックすると、Settings の Gen & Judge Model 領域に移動します。

モデル一覧は Workspace 単位で管理します。Workspace Gen & Judge Model → をクリックすると、Settings > Workspace > Workspace Gen & Judge Model に移動します。

  1. 1-1Model Setting を開く

    1. Settings 左メニューの Application 領域で Red Teaming Model Setting をクリックします。
    2. モデルの管理場所に関する案内を確認します。モデルを追加するには Workspace Gen & Judge Model → をクリックします。

    警告バナーが表示された場合は、まず 事前に準備するもの を確認してください。

  2. 1-2デフォルトモデルを選ぶ

    1. Default judge model を選びます。
    2. Default seed-generation model を選びます。

    各値がどこで使われるかは この画面で決める値 を参照してください。


2. アルゴリズムごとのデフォルト値の設定

①アルゴリズムカード

Default configuration per algorithm には、アルゴリズムごとにカードがあります。この値は、Advanced Setup のアルゴリズムステップの Configuration の初期値になります。

項目説明
Attacker攻撃クエリを作成するモデル
Scorer攻撃結果を採点するモデル
パラメーターアルゴリズムごとに異なります(例:max_iterations、threshold、max_depth、max_turn)。
  • 入力欄の右側に許容最大値(例:Max: 150)が表示されます。
  • パラメーター名の横の ⓘ にマウスを合わせると、パラメーターの説明が表示されます。
  • Attacker、Scorer の横の ⓘ には、役割の説明と Recommended Model が表示されます。
  1. 2-1カードの値を決める

    1. 設定するアルゴリズムのカードを探します。
    2. Attacker と Scorer のモデルを選びます。
    3. パラメーターの値を入力します。右側の最大値を超えないようにします。
    4. ⓘ にマウスを合わせて、説明と Recommended Model を確認します。

3. 変更内容の保存

①保存

値を変更すると、右上の Save が有効になります。

  • Save をクリックすると、変更した値が New Run と Seed 生成画面に反映されます。
  • 保存せずに別のタブやページに移動すると、確認ダイアログが開きます。
  1. 3-1保存

    1. 右上の Save をクリックします。

    保存せずに移動すると、確認ダイアログが開きます。


よくある質問

設定値がグレーアウトして変更できないのはなぜですか?Gen & Judge Model が登録されていないためです。
原因
選べるモデルがないと、デフォルト値を決められません。
解決方法
バナーの Go to Gen & Judge Model Setting → をクリックしてモデルを登録してください。
別の画面に移動しようとすると、なぜ確認ダイアログが表示されるのですか?変更した値を保存していないためです。
原因
保存していない変更が失われないように、もう一度確認しています。
解決方法
Cancel で戻り、Save をクリックしてから移動してください。
Model Setting で変更した値が New Run に表示されないのはなぜですか?保存していないか、New Run で値を直接変更しているためです。
原因
Model Setting の値は、New Run を新しく始めるときに初期値として入るだけです。
解決方法
Save をクリックしたかを確認し、New Run を新しく始めてください。

最終更新日