メインコンテンツへスキップ
見出し画像

火力足りないよ!AIの回答を狂わせる「温度」上げすぎ・下げすぎの境界線

    (今日はちょっと専門的な内容かもしれませんが、AI開発に興味がない人にも面白い読み物になるように書きました。)

    みなさん、気温がなかなか安定しませんね。
    東京の最高気温は今日から12度、19度、12度、9度…
    と気温差が大きい日が続くようです。

    せめてAIぐらいはあったかくなってほしい。

    実は…
    AIにも「温度(Temperature)」
    があるって知っていましたか?

    といっても、「今日は塩対応!」「今日は熱血!」ということではないんです。

    AI、特にChatGPTなどの大規模言語モデル(LLM)は、「確率的な応答」を生成しているってぼんやり聞いたことがあるかもしれません。
    それと関わってくるんです。

    (言語生成の確率については、前にも、ざっくり概念を説明しました)

    AIの「温度(Temperature)」とは

    AIにとっての「温度(Temperature)」は、文章を生成する時の「確率」をいじる仕組みです。

    概ね0~2.0くらいまで選べる数値です。

    どういうことか、イメージとしては…

    「猫はかわいい生き物ですか?」

    と聞いた時、

    「温度(Temperature)」が低ければ、AIは一番無難そうな言葉を返します。

    「猫はかわいいですよ! 猫に興味がありますか?」

    といったイメージ。

    逆に、「温度(Temperature)」が高ければ高いほど、AIは冒険して、ちょっと言葉としておかしくなっちゃうかもしれない単語も選択するようになります。

    そしてその応答の中には

    「猫はカラスです!」
    「猫は生き物ではありません!」

    といった本来は回答として不適切な答えも返ってくるかもしれません。

    つまり、温度が高いと

    回答のランダム要素が高くなる。
    結果的に「創造性」が高くなる。

    のですね。

    だから、「法律にのっとってるかのチェック」といった「冒険せずつねに無難な判断をしてほしい」タスクには「温度(Temperature)」を低め(目安0.0~0.3くらい)に。

    大喜利をやっている時は高め(0.8~1.2)くらいにするのが一般的な感覚ではあります。

    ただし、モデルによって、どのくらいの温度まで耐えられるかは違います。

    ChatGPTは温度1.5度までは納得感のある回答ができるけど、それ以上は壊れる。Geminiは温度1.8まで耐える、みたいな。

    温度が高すぎると、「言葉として成立しない回答」になってしまう可能性が高まります。

    さっきの例だったら

    「猫は猫はねこねこねこ」

    と壊れた機械みたいになっちゃったり

    猫の可愛さについて聞いているのに

    「猫はかわいくジャンプしてあっちへ行きます」

    と文脈に沿わない突飛な出力になる…ような挙動が期待されます。

    じゃあ「私も大喜利やりたいし、ちょっと変えて、実験してみたい…」そんな風に感じた方もいらっしゃるかもしれません。

    ただし、みなさんがWebやアプリでChatGPTなりGeminiに話しかける時には、もうこの温度は「勝手に」決められています。

    「ちょっと厳密すぎたかな? ちょっと創造的になりすぎて変な回答しちゃってるかな?」とOpenAIの人が感じたら、都度調整したりしています。
    ユーザーには分かりません

    ですが、OpenAIやGoogleのサイトを介さず、自分の好みで直接AIを動かす場合(API利用)は自分で「温度」も設定できるんですよね。

    Geminiで試してみよう!

    みなさんに温度を変えるインターフェースは提供できませんが、Google AI Studioというツールを使って、今日はちょっと一緒に試してみましょうね。

    何をテーマにするか、ですが…

    そういえば先日

    という記事で、「流行語大賞の選評に、絶妙な熟成感がただよっていて素敵」と書きました。

    でも自分で書こうとしてみると、独特の「熟成感」のある文章を考えるのも結構むずかしい。

    そうだ、AIにやらせてみましょう。

    プロンプトを考えました。

    昭和記者(松永善三:65歳:嘱託)の古めかしい語彙と文体で、パンケーキのおいしさについて、300文字程度で解説して。
    よく使う語彙の雰囲気(適度に活用)
    ・とんと聞かなくなった
    ・ド肝を抜く
    ・大本命
    ・物議をかもし
    ・ファックス
    ・~ではありませんか。
    ・~間違いない
    ・さして
    ・うなずける
    ・かねてより
    ・「てぇへんだ、てぇへんだ!」
    ・~であった。
    ・これいかに
    ・粗忽者

    (名前や年齢は仮です。語彙は流行語大賞のページから印象的だった単語を拾ってきました。)

    完ぺきです!

    モデルは、せっかくなので、ほんの数日前に公開されたばかりの
    gemini-3-flash-preview
    を使います。

    (数時間使ってみた第一印象として、多少不安定ですが、以前の2.5と比べるとかなり能力が向上しているのは分かりました。)

    まずGeminiの推奨温度が確か1.0だったので、それで試してみましょう。

    画像
    Google AI Studioではこんな風に温度などのハイパーパラメータを変更して生成を試せます。

    以下が1.0の場合の回答です。

    「てぇへんだ、てぇへんだ!」と編集局へ飛び込みたくなるほどの衝撃である。近頃は「ホットケーキ」なる呼称もとんと聞かなくなったが、この分厚い円盤こそ、現代甘味界の大本命ではありませんか。 かねてより流行の品と高を括っていたが、一口含めば、その雲を掴むような食感にド肝を抜かれた。さして甘味を解さぬ私のような粗忽者でも、バターと蜜が織りなす官能的な調べには深くうなずける。 かつては家庭の味であったものが、今や巷で物議をかもすほどの行列を生むとは、これいかに。その旨さ、職人の意地に間違いなし。令和の熱狂を、思わず本社へファックスしたくなる、そんな昼下がりであった。

    (ところで、ファックスは昭和用語なんでしょうか?
    思わず語彙に指定してしまいましたが、ギリ平成か…?
    わかりません。
    プロンプトの改善案はいつでも受け付けています。)

    ともあれ、まぁ、こんなもんでしょうね。
    じゃあ、もう温度を0に設定してみましょうか。

    画像

    先ほど言った通り、温度が低いとそのモデルにとって「無難」な単語を拾って生成します。

    「てぇへんだ、てぇへんだ!」と、編集部の粗忽者が血相を変えて飛び込んできた。かねてより噂の「パンケーキ」なる代物だ。ホットケーキという言葉もとんと聞かなくなった昨今、これいかに。 運ばれてきた皿を見てド肝を抜かれた。雲のような厚みではありませんか。かつて物議をかもし、ファックスで情報を集めた流行り物とは一線を画す。さして甘すぎぬ生地に、黄金色のバターが溶けゆく様は実にうなずける。 これぞ令和の甘味界における大本命、至福の味であることに間違いない。昭和の老兵たる記者も、この柔らかな口溶けには兜を脱ぐばかりであった。

    こっちの方が文章としては好みかも。

    なるほど、今回の松永さんの言葉を生成するという用途においては温度が低い方が適していた(決まり切ったどこかで聞いたようなパターンの文章が特徴だから)ということなのかもしれません。

    でも、高い温度も試してみましょう。

    Geminiは2.0まで上げられます。

    画像

    大体のモデルでは2.0って上げすぎて文章が壊れちゃうんですが、Gemini 3.0 Flashはどうでしょうか。

    そいやっ

    「てぇへんだ、てぇへんだ!」と編集部へ駆け込むほどではないが、巷じゃ「ホットケーキ」の名はとんと聞かなくなった。代わってスイーツ界の大本命に躍り出た「パンケーキ」なる代物、これが我々のド肝を抜くウマさではありませんか。

    かつては生クリームの塔が物議をかもしたが、実際に食めば雪解けのごとし。さして噛まずとも消え入る食感は、若人の熱狂もうなずける。私のような粗忽者が食っても、頬が落ちるのは間違いない。

    かねてより洋菓子は進化していたが、これいかに。詳細な食レポは、追ってデスクへファックスで送っておく。まさに、新時代の夜明けであった。

    Geminiは変なところを太字( **で囲む)にしてしまいましたが、
    文章としてはさほど違和感がありません。

    あら、意外とできますね。

    もっと文章としては壊れるもんだと想定していましたが、さすがGeminiですね。この文章の長さでは破綻せず。

    結果:0の時も2.0の時も、Geminiはわりと耐える。

    小さいモデルでも試してみよう

    でもつまらないので、「普通はこうはならん」というのを確かめるために、ChatGPTのオープンモデルであるgpt-oss-20bでも試してみましょう。

    (かなり小さいモデルなので、みなさんがいつも使っているChatGPTと比べると能力はささやかですが、小さなタスクではすごく頼りになります)

    温度0のときです

    昭和の記者松永善三が語る。パンケーキの甘い香りは、まるでとんと聞かなくなった昭和の風を呼び覚ます。ふわふわの食感はド肝を抜くほどで、大本命の朝食として物議をかもし。ファックスで送るレシピは、さして簡単で、うなずけるほどの美味しさ。かねてより「てぇへんだ、てぇへんだ!」と叫びたくなる。これいかに、間違いない。粗忽者も納得する味であった。  
    このパンケーキは、朝の光を浴びてふわりと甘い香りが広がり、食べるたびに心が躍る。大本命の理由は、バターの香ばしさとメープルシロップの甘酸っぱい調和にある。物議をかもし、だが味は間違いない。さして、食べるたびに笑顔がこぼれ、粗忽者も納得するほどの味わいだ。これで完璧だ。。

    面白くもありませんが、日本語としての破綻はないですね。

    一方、2.0にするとこうですね。

    パンケーキと言えば古風な熱を口にすれば、まずは 「このとき とんと聞かなく二度聞」** が起こり、すさみをくくれるだろのことごっちゃだ。食べる瞬間、風を味に絡む香ばしい蒸気 「ド肝抜く!」、そして 何の料理も られる?いやはやこのごは今だけでは『 大本命 だだである(さしはないんです)。実際に、ファーヒーズ 「てぇへん? 「ええ」かと思いますがファックス** を打開に もなり 、 大したことは ないはは 、です…??!** もっとと呼吸**。いね。
    ~として、~で誤るべきです。パンケーキ こそ本当のお好きか、とたときこの「てぇへん」が示し、何て話でしょうかかり? 
    (約300字。)

    ちなみに
    **
    という風に出ているのはAIが太字に設定を失敗した時に出てしまう記号です。
    今回はそのまま載せましたが、AIがそれを出しちゃったときは、
    AIが太字にしたかったであろう部分を自分で、太字にしてあげてくださいね。

    こんな風に、日本語として壊れてしまいました。
    試したところ、どうやらgpt-oss-20bはこの条件では0.6~0.8くらいが限界みたいですね。
    (温度が高くても耐えられるから、良いモデルというわけでもないです)

    決して、ChatGPTのオープンモデルが性能低い訳ではなく。

    2.0っていうのは異常に高すぎるので、普通はこうなるんです。それでもある程度一貫性を保てるGeminiが変なんです。

    (とはいえ、Geminiでも、長期的な会話になると高すぎる温度の悪影響は積み重なる気がします)

    まとめ

    • AI(大規模言語モデル)には「温度(Temperature)」という設定がある

    • 温度を上下させることで、無難な回答にするか、突飛な回答にするかを数値で調整できる

    • 私たちがブラウザやアプリで使っているAIにも「温度(Temperature)」はあるが、基本的に自由には変えられない

    • 本来は用途(厳密に判断? それとも遊びもほしい?)によって温度を変えた方が最適な結果が得られる

    • Gemini系は、温度がいくつであろうと破綻しづらい

    • 小さいモデルほど、温度が高いと破綻しやすい

    いかがでしたでしょうか。

    これを知っていれば、AIを使っていて、ある日突然ちょっと応答の内容が変わったなというとき、「設定をいじったんだな」というのが分かるかもしれません。

    そして、温度を自分で調整できない場合でも、プロンプトに厳密な条件を付け加えることで「遊び」を少なくしたり、逆にルールを減らして「創造的」に…というのは、今からできる工夫です。

    こんな風にコントロールできると

    「なんかよく分からないがたまに適切な結果を返してくれる魔法の装置」

    よりも一段進んで

    「自分の言葉(プロンプト)によってコントロールできる装置」

    という風に変わってくる気がしませんか?

    • 失敗した時に、どこを直せばいいか(ルールを増やすか、減らすか)の仮説が立てられる。

    • 成功した時に、なぜ上手くいったのかの理屈がわかる。

    これって本当に大事ですよね。

    最近AIアプリの開発を始めた方も、いつもブラウザやアプリで話しかけるだけ、という方にも、この「温度感」が伝われば嬉しいです。

    最後までお読みくださり、ありがとうございました。


    そういえば前日、以前書いたAI関連の記事

    を、noteさんの記事の中でご紹介いただきました!

    応援してくださるみなさまのおかげですね。
    ありがとうございます。

    AIに興味がある皆様は、ぜひページをチェックして、他の方の記事も読んでみてくださいね。


    #YeKu #AI #ChatGPT #Gemini #生成AI #プロンプトエンジニアリング


     
     
    「知る」ことは優しさ。不登校/双極症の経験を持つひきこもりのITエンジニアが、生きづらさを抱えるあなたへ「それでもきっと、大丈夫」のヒントを3年間、毎日発信しています。病気でも、不登校でも、ひきこもりでも。きっと、私たちそれぞれの「だいじょうぶ」を見つけられる。(毎日19時更新)

    あなたへのおすすめ