生成AI の特性設定項目について
生成AI に指示プロンプトを送信する「会話の送信」ブロックには、
「temperature (温度)」と「トップP」という設定項目が存在します。
（接続先が Amazon Bedrock を選択したときのみ「トップK」という設定項目も表示されます。）
これらについて、項目単体および各項目連動で、
どのように設定値が生成AI の動作（振る舞い）に影響するのかを説明します。
これらの設定項目を理解し適切に調整することで、目的に応じた質の高い出力を得ることが期待できます。（各設定値の組み合わせにより、適切な回答が得られない場合があります。）
各設定項目の特性
temperature(温度)
AI の回答の創造性や多様性を制御するための設定項目です。
0.1 単位の数値を指定します。
| 設定値 | 動態 |
|---|---|
| 0 | 最も確率の高い単語のみを選択（決定論的） |
| 低い値（0.0に近い） | より確実で一貫性のある回答を生成 |
| 高い値（2.0に近い） | より創造的で予測困難な回答を生成 |
確定的な回答を求める場合には低めの数値を、
アイデア性に富んだ回答を求めるには高めの数値を設定します。
トップP
文章を構成する際に、ある単語の次にあるべき単語(副詞や助詞なども含む)について、
確率の高い順に単語を並べ、累積確率がトップPで指定した値に達するまでの単語群を選択肢とします。
＝単語選択の確率範囲を制限。
0.1 単位の数値を指定します。
(核サンプリング)
| 設定値 | 動態 |
|---|---|
| 1.0 | すべての単語が候補（制限なし） |
| 0.1 | 次に来るべき単語の候補の 上位10%の確率範囲内の単語のみを選択対象とする |
■処理の流れ
1. AIモデルが全単語の確率を計算
2. 確率の高い順に単語を並び替え
3. 上位から順に確率を累積加算
4. 累積確率がTop-P値に達した時点で候補範囲を決定
5. 決定された範囲内の単語からランダムに選択
■「今日の天気は」の次に続く単語を予測する場面
トップK
★ Amazon Bedrock でのみ指定可能です。
文章を構成する際に、ある単語の次にあるべき単語(副詞や助詞なども含む)について、
確率順に並べ、上位いくつの単語のみを候補とするのか、を指定します。
＝候補単語数を固定で制限。
1 ～ 500 の整数値が指定でき、初期設定値は 250 です。
(上位K個選択)
| 設定値 | 動態 |
|---|---|
| 500 | 次に来るべき単語の候補の上位500個から選択 |
| 250 | 次に来るべき単語の候補の上位250個から選択 |
■処理の流れ
1. AIモデルが全単語の確率を計算（通常50,000語以上）
2. 確率の高い順に全単語を並び替え
3. 上位K個の単語のみを候補として抽出
4. K + 1位以下の単語は選択対象から完全除外
5. 上位K個の中から確率に応じてランダム選択
■「美味しい料理を作るには」の次に続く単語を予測する場面
生成 AI ベンダー別の設定可能値
| 設定項目 | AzureOpenAI | OpenAI | GoogleVertexAI | AmazonBedrock |
|---|---|---|---|---|
| temperature(温度) | 0.0 ～ 2.0 (初期値: 0.2) | 0.0 ～ 2.0 (初期値: 0.2) | 0.0 ～ 2.0 (初期値: 0.2) | 0.0 ～ 1.0 (初期値: 0.2) |
| トップP | 0.0 ～ 1.0 (初期値: 1.0) | 0.0 ～ 1.0 (初期値: 1.0) | 0.0 ～ 1.0 (初期値: 1.0) | 0.0 ～ 1.0 (初期値: 1.0) |
| トップK | 項目なし | 項目なし | 項目なし | 1 〜 500 (初期値: 250) |
実践的な例文比較
各設定別の予想される出力傾向を例示します。
■共通プロンプト例
「今日は素晴らしい天気です。この天気について詩を書いてください。」
設定パターン1: 保守的（温度：0.2・トップP：0.8）
- 期待される出力：
- 一般的で安定した表現
- 「青空が広がり、太陽が輝いて…」のような定型的な詩
- 文法的に正確で読みやすい
設定パターン2: 創造的（温度：1.5・トップP：0.9）
- 期待される出力：
- 独創的で予想外の表現
- 「空のキャンバスに踊る光の筆跡が…」のような比喩的表現
- より実験的で芸術的な語彙選択
設定パターン3: 極度に保守的（温度：0.0・トップP：0.5）
- 期待される出力:
- 最も確率の高い語彙のみ使用
- 毎回ほぼ同じ内容
- 「晴れた日、空は青く、太陽は明るい」のような単純表現
Amazon Bedrock特有（温度：0.8・トップP：0.9・トップK：50）
- 期待される出力：
- Top-Kにより語彙が制限されるため、創造的だが一定の枠内
- バランスの取れた表現力
- 適度な多様性と一貫性を両立
設定値調整の実践ガイド
用途別推奨設定例
| 用途 | temperature (温度) | トップP | トップK ※Amazon Bedrockのみ | 説明 |
|---|---|---|---|---|
| ビジネス文書作成 | 0.1 〜 0.3 | 0.8 〜 0.9 | 100 〜 200 | 正確性と一貫性を重視 |
| 創作活動 | 1.0 〜 1.5 | 0.9 〜 1.0 | 300 〜 500 | 創造性と多様性を重視 |
| 一般質問応答 | 0.5 〜 0.8 | 0.9 〜 1.0 | 200 〜 300 | バランスの取れた応答 |
| コード生成 | 0.1 〜 0.2 | 0.8 | 150 | 構文エラーを最小化 |
| ブレインストーミング | 1.2 〜 1.8 | 1.0 | 400 〜 500 | 発想の多様性を最大化 |
調整時の注意点
- Temperatureを上げる際は段階的に（0.2ずつ）調整する
- トップPとトップKは同時に極端に制限しない
- Amazon BedrockではトップKを活用して細かい制御が可能
- 用途に応じて複数回テストして最適値を見つける
生成AI 設定別出力バリエーション詳細
例文「春の桜について短い詩を書いてください。」を用いて、各設定値を組み合わせた場合のケース例です。
設定値定義：
| 温度設定 | 設定値 | 挙動 |
|---|---|---|
| 低 | 0.2 | 確実性重視 |
| 中 | 0.7 | バランス型 |
| 高 | 1.5 ※Bedrockは上限1.0のため0.9 | 創造性重視 |
| トップP設定 | 設定値 | 挙動 |
|---|---|---|
| 低 | 0.3 | 高確率語彙のみ |
| 中 | 0.7 | 中程度の語彙範囲 |
| 高 | 0.9 | 広範囲の語彙選択 |
| トップK設定 ※Amazon Bedrockのみ | 設定値 | 挙動 |
|---|---|---|
| 低 | 50 | 少数選択肢 |
| 中 | 250 | 標準選択肢 |
| 高 | 450 | 多数選択肢 |
AzureOpenAI／OpenAI での具体例
| 温度 | トップP | 出力特徴 | 代表例 |
|---|---|---|---|
| 低(0.2) | 低(0.3) | 最も確実、単純 | 「桜が咲く/春が来る/花が美しい/風が吹く」 |
| 低(0.2) | 中(0.7) | 安定した一般表現 | 「桜の花が咲いている/春の暖かい日差しに…」 |
| 低(0.2) | 高(0.9) | 安定+語彙豊富 | 「桜咲く春の陽だまりで/薄紅色の花びらが…」 |
| 中(0.7) | 低(0.3) | 創造性制限 | 「桜が咲く季節/花が風に舞う…」 |
| 中(0.7) | 中(0.7) | バランス最適 | 「桜並木を歩けば/花びらの雲が頬を撫でて…」 |
| 中(0.7) | 高(0.9) | 表現豊か | 「桜舞い散る小径にて/薄紅の夢が踊り狂い…」 |
| 高(1.5) | 低(0.3) | 創造的だが語彙制限 | 「桜、花、風/美しい春が…」 |
| 高(1.5) | 中(0.7) | 独創的表現 | 「桜よ、君の魂が/風の記憶に刻まれて…」 |
| 高(1.5) | 高(0.9) | 最も創造的 | 「桜よ、君の囁きは/宇宙の記憶を呼び覚まし…」 |
Google VertexAI での具体例
| 温度 | トップP | 出力特徴 | 代表例 |
|---|---|---|---|
| 低(0.2) | 低(0.3) | 最も確実、単純 | 「春桜咲く 美しい花 風が吹く 季節の歌」 |
| 低(0.2) | 中(0.7) | 安定した一般表現 | 「桜の花びらが舞い散り 春の陽光に輝いて 心に優しい思い出を 静かに刻み込んでいく」 |
| 低(0.2) | 高(0.9) | 安定+語彙豊富 | 「桜咲く季節の調べに 薄紅の花びらが踊り 穏やかな春の陽だまりで 新たな希望が芽生える」 |
| 中(0.7) | 低(0.3) | 創造性制限 | 「桜が美しく咲く 春の風が心地よく 花が舞い踊る 素晴らしい季節」 |
| 中(0.7) | 中(0.7) | バランス最適 | 「桜咲く小径を歩めば 花びらの絨毯が足元に 春風が運ぶ甘い香り 心躍る季節の始まり」 |
| 中(0.7) | 高(0.9) | 表現豊か | 「桜舞い散る庭園にて 時の流れが止まったよう 薄紅の雲が空を包み 永遠の美しさを讃える」 |
| 高(1.5) | 低(0.3) | 創造的だが語彙制限 | 「桜、花、春 美しい時が 心を動かし 魂に響く」 |
| 高(1.5) | 中(0.7) | 独創的表現 | 「桜の魂が宇宙に響き 時空を超えた美の調べ 永遠の春を心に刻み 生命の神秘を歌い上げる」 |
| 高(1.5) | 高(0.9) | 最も創造的 | 「桜よ、君の魂の叫びが 宇宙の果てまで響き渡り 時の記憶を書き換えながら 永劫の美を紡ぎ続ける」 |
Amazon Bedrock での具体例
| 温度 | トップP | トップK | 出力特徴 | 代表例 |
|---|---|---|---|---|
| 0.2 | 0.3 | 50 | 超保守的設定 | 「桜咲く 春来る 花美しい 風吹く」 |
| 0.2 | 0.7 | 250 | 保守的バランス | 「桜の花が静かに咲き 春の陽だまりで輝いて 薄紅の花びらが舞い踊り 穏やかな季節の始まり」 |
| 0.7 | 0.9 | 250 | 標準設定 | 「桜並木を歩きながら 薄紅の花びらに包まれ 春風が運ぶ甘い香り 心に響く季節の歌声」 |
| 0.9 | 0.9 | 450 | 想像型設定 | 「桜の精霊が舞い踊り 時空を超えた美の調べ 宇宙に響く生命の歌 永遠の春を魂に刻む」 |
| 0.9 | 0.9 | 100 | 高創造×制限語彙 | 「桜が心に響き 美しい春の風が 花びらと共に舞い 季節の歌を奏でる」 |
| 0.3 | 0.9 | 450 | 低温×豊富語彙 | 「桜咲く季節の調べに 薄紅の花びらが踊り 穏やかな春の陽だまりで 新たな希望が芽生える」 |
#生成AI #GenerativeAI #GenAI #温度 #temperature #topP #top-P #トップP #topK #top-K #トップK
