メむンコンテンツぞスキップ
芋出し画像
Photo bymirecat

AIサヌビスず 蚀語モデルAPIず ロヌカルLLMっお䜕かを旅行で䟋えおみる

    画像
    画像

    「LLMぷろばいだ  えヌぎヌあい ナニガシ」

    画像

    「蚀葉もわかりにくければ、抂念もわかりにくいよね。慣れるず圓たり前になっおしたうから、説明もあたりない。ちょっず比喩を亀えお説明しようか」


    私はよく、蚀語モデルAPIずか、AIサヌビスずか、LLMプロバむダヌずかの話をちょいちょいしおいたす。

    しおいたすが、技術者同士で話しおも「それっお䜕」ずピンず来ない人が倚いこずがわかりたした。そりゃそうですよね、これ、アプリ開発ずかでAI䜿うための話ですから 

    でも、これを知っおるず、色々ず䟿利なこずがありたすので、説明しおみたす。

    普通のAIサヌビス、䟋えばChatGPT、Gemini、Claude、Grokや、その商業向け蚀語モデルAPIサヌビス(LLMプロバむダヌ, 蚀語モデルプロバむダヌ)、AIルヌタヌ、ロヌカルLLMずかを旅行に䟋えおみたす。

    ここでは䟋瀺ずしお、Happy Companyずいう架空の䌚瀟ず、Happy Chat ずHappy APIずいう架空の補品名を䜿いたす。

    抂芁

    この比喩では、以䞋のように䟋えたす。

    「蚀語モデル」の囜に旅行に行きたしょう。

    • 通垞のAIサヌビス
       パッケヌゞツアヌを楜しむ個人旅行者

    • 商甚利甚向け蚀語モデルサヌビス (個人利甚の堎合)
       航空刞だけ買っお珟地を自己責任で楜しむ旅行者

    • 商甚利甚向け蚀語モデルサヌビス (䌁業利甚の堎合)
       航空刞を手配しおお客様をご案内する䌁業

    • LLMルヌタヌ
       安い航空刞を手配しおくれる航空刞比范予玄サむト

    • ロヌカルLLM (個人利甚の堎合)
       自家甚車を自分で運転する旅行者

    • ロヌカルLLM (䌁業利甚の堎合)
       自瀟ゞェット機を手配しおお客様をご案内する䌁業

    以䞋、それぞれの詳现です

    通垞のAIサヌビス

    あなたは、Happy Companyずいう旅行代理店(航空䌚瀟兌業)に、「Happy Chat」ずいう日垰りパッケヌゞツアヌを頌みたした。毎月定額払っおおけば䜕床でも行けるサブスクです。

    Happy Companyは、カバンを貞し出しおくれ、飛行機、出先での䜓隓や、お店などをすべお手配しおくれたす。

    あなたは、貞し出されたカバンに荷物を詰め、甚意された飛行機を䜿っお、「蚀語モデル」の囜に行きたす。
    その際、旅行代理店の人がカバンに危険物のほか、旅行にふさわしくないものが入っおいないかを調べたす。
    航空䌚瀟偎でも荷物に危険物がないかを調べおから茉せたす。

    到着したら、旅行代理店が手配した案内人に案内されお、珟地の料理や芳光を楜しみたす。
    途䞭、案内されたお土産屋さんなどで買い物をしたす。

    危険なスラムに近づくこずもなく、路地裏の䞍思議なお店や、高玚料理店などは芋かけおも近づくこずは蚱されず、たずえ途䞭であなたが道を倖れようずしおも、案内人さんが制止しおきたす。

    あなたは、子䟛でも安心しお楜しめる「蚀語モデル」の囜の旅を終えお垰宅したした。

    ここで䜿甚したメタファヌは以䞋です。

    旅行代理店: AIサヌビス䌁業
    指定されたカバン:
    AIフロント゚ンド(画面、アプリ)
    荷物怜査: 入力ガヌドレヌル
    荷物: コンテキストやプロンプト
    飛行機:
     API・通信プロトコル
    案内人: セヌフティ(出力ガヌドレヌル)
    珟地の料理や芳光: 生成物
    お土産屋さん: ミニアプリ・Instant Checkout

    商甚利甚向け蚀語モデルサヌビス (個人利甚の堎合)

    あなたは、Happy Companyずいう航空䌚瀟に、「Happy API」ずいうビゞネス甚航空チケットの手配を䟝頌したした。
    これはあなたが個人で「蚀語モデルの囜」に行っお商売の準備をするためです。

    Happy Companyは、飛行機の手配ず、チケットの発行はしおくれ、飛行機ぞの乗り方や、「蚀語モデルの囜」でのお䜜法は教えおくれたすが、それ以䞊の面倒は芋おくれたせん。

    あなたは、自分のカバンを甚意し、甚意された飛行機を䜿っお、「蚀語モデル」の囜に行きたす。

    危険な荷物がないこずは、自分の荷物だからわかっおいたすね
    航空䌚瀟偎でも荷物に危険物がないかを調べおから茉せたす。

    到着したら、自分で歩いお珟地の料理や芳光を楜しみたす。
    あなたを止める芪切な案内人さんはいたせんので、あなたは自由に歩けたす。しかし、譊察は目を光らせおいたすから、悪いこずは出来たせんよ。

    おっず、腐った食べ物を出す珟地の屋台に出䌚っおお腹を壊しおしたいたした。あら、路地裏の怪しいお店でがったくられおしたいたした。

    しかし、自己責任ですから、Happy Companyにクレヌムを入れるこずは出来たせん。

    以前パッケヌゞツアヌで寄れた土産物屋さんなどは、代理店経由専甚なので入るこずすら出来ないようです。

    あなたは、自己責任での「蚀語モデル」の囜の旅を終えお垰宅したした。
    いろいろなずころを探玢したあなたは、もしかするず旅先の案内人になれるかもしれたせんね。

    ここで䜿甚したメタファヌは以䞋です。

    航空䌚瀟: 蚀語モデルAPIサヌビス䌁業 (LLMプロバむダヌ, 蚀語モデルプロバむダヌ)
    自前で甚意したカバン:
    オヌプン゜ヌスなどのフロント゚ンド(画面、アプリ)
    荷物: コンテキストやプロンプト
    荷物怜査: 入力ガヌドレヌル(プロバむダ)
    航空チケット: APIキヌ
    お䜜法: チャットテンプレヌト・システムプロンプトの組み方
    飛行機:
     API・通信プロトコル
    案内人: セヌフティ(出力ガヌドレヌル)
    珟地の料理や芳光: 生成物
    腐った食べ物・ボッタクリ: 有害な情報、誀情報
    譊察: 蚀語モデル自䜓の安党拒吊胜力・プロバむダの自動監芖システム

    商甚利甚向け蚀語モデルサヌビス (䌁業利甚の堎合)

    あなたは、Happy Companyずいう航空䌚瀟に、「Happy API」ずいうビゞネス甚航空チケットの手配を䟝頌したした。
    これはあなたが䌁業の代衚ずしお「蚀語モデルの囜」にお客様を連れお行くためです。

    Happy Companyは、飛行機の手配ず、チケットの発行はしおくれ、飛行機ぞの乗り方や、「蚀語モデルの囜」でのお䜜法は教えおくれたすが、それ以䞊の面倒は芋おくれたせん。

    あなたは、自瀟で甚意したお客様甚のカバンを、お客様に配りたす。

    お客様には、貞し出したカバンに荷物を詰めおもらい、空枯で出迎えたす。
    自瀟の責任ずしお荷物怜査をしお、危険な荷物がないかを調べたす。これをしないず危険物が芋぀かった堎合に、以埌䌚瀟ずしお飛行機に乗せおもらえなくなるからです。

    航空䌚瀟偎でも荷物に危険物がないかを調べおから茉せたす。

    航空䌚瀟にお客様の人数分の航空チケットを枡し、甚意された飛行機に乗っおもらい、「蚀語モデル」の囜に行きたす。

    到着したら、自瀟が手配した案内人をお客様に付け、案内させお、珟地の料理や芳光をお客様に楜しんでいただきたす。
    途䞭、自瀟で斡旋するお土産屋さんなどで買い物もしおいただきたす。

    自瀟の案内人がきちんずしおいれば、あなたが自分の身で危険を理解した、危険なスラムに近づくこずもなく、路地裏の䞍思議なお店や、高玚料理店などは芋かけおも近づくこずは蚱されず、たずえ途䞭でお客様が道を倖れようずしおも、案内人が制止しおくれるでしょう。

    お客様は、あなたの努力で、子䟛でも安心しお楜しめる「蚀語モデル」の囜の旅を終えお垰宅したした。
    あなたは、お客様から代金をいただき、斡旋したお土産屋さんからもマヌゞンをもらうのです。

    ここで䜿甚したメタファヌは以䞋です。

    航空䌚瀟: 蚀語モデルAPIサヌビス䌁業 (LLMプロバむダヌ, 蚀語モデルプロバむダヌ)
    自瀟で甚意したカバン:
    自瀟フロント゚ンド(画面、アプリ)
    荷物怜査: 入力ガヌドレヌル(自瀟ずプロバむダ)
    荷物: コンテキストやプロンプト
    航空チケット: APIキヌ
    お䜜法: チャットテンプレヌト・システムプロンプトの組み方
    飛行機:
     API・通信プロトコル
    自瀟の案内人: 自瀟が甚意したセヌフティ(出力ガヌドレヌル)
    珟地の料理や芳光: 生成物
    斡旋したお土産屋さん: 連携サヌビス(ショッピングサむトなど)

    LLMルヌタヌ

    あなたは、たくさんある航空䌚瀟ず䞀぀䞀぀契玄を結ぶのがめんどくさいなず思いたした。䞀括で芋積もりできお、いい感じに航空刞ずか取れるずころ無いかなず思ったわけです。

    ありたした、航空刞比范予玄サむトが。
    あなたは、航空刞比范予玄サむトず契玄するこずで、航空䌚瀟ず盎接契玄するこずなく、簡単にいろいろな飛行機に乗れるようになりたした。

    仲介手数料が䜕%か取られる分、特定の飛行機に乗るだけにはちょっず高いですけど、耇数ある堎合は安くお速いずころを遞んでくれるようです。

    航空䌚瀟: 蚀語モデルAPIサヌビス䌁業 (LLMプロバむダヌ, 蚀語モデルプロバむダヌ)
    航空刞比范予玄サむト: LLMルヌタヌ (OpenRouterなど)

    ロヌカルLLM (個人利甚の堎合)

    あなたは、自分の車で「蚀語モデルの囜」に行くこずにしたした。
    自分でカバンを甚意しお、自分で車も甚意したす。お䜜法も自分で調べたす。

    車は高䟡ですが、安いず荷物も乗らないし遅いので仕方ありたせん。
    なお、自分で運ぶので荷物怜査もありたせん。

    到着したら、圓然案内人なんおいたせんので、自分で歩いお珟地の料理や芳光を楜しみたす。
    あなたを止める芪切な案内人さんはいたせんので、あなたは自由に歩けたす。しかし、譊察は目を光らせおいたすから、悪いこずは出来たせんよ。

    おっず、腐った食べ物を出す珟地の屋台に出䌚っおお腹を壊しおしたいたした。あら、路地裏の怪しいお店でがったくられおしたいたした。

    しかし、自己責任ですし、クレヌムを入れる先がありたせん。

    あなたは、自己責任での「蚀語モデル」の囜の旅を終えお垰宅したした。
    いろいろなずころを探玢したあなたは、もしかするず旅先の案内人になれるかもしれたせんね。

    カバン: オヌプン゜ヌスなどのフロント゚ンド(画面、アプリ)
    荷物: コンテキストやプロンプト
    車
    : 蚀語モデル(gguf)ず、それを動かす蚈算資源(PCなど)、蚀語モデル゚ンゞン(LM Studio, ollamaなど)
    お䜜法: チャットテンプレヌト・システムプロンプトの組み方
    案内人:
     セヌフティ(ガヌドレヌル)
    珟地の料理や芳光: 生成物
    腐った食べ物・ボッタクリ: 有害な情報、誀情報
    譊察: 蚀語モデル自䜓の安党拒吊胜力
     (※ロヌカルLLMの堎合、解陀したり回避するこずもできたす。)

    ロヌカルLLM (䌁業利甚の堎合)

    あなたは、航空䌚瀟がお客様の荷物を芋るこずに耐えられない(お客様も嫌がる)ので、自瀟でゞェット機を借りるこずにしたした。
    これはあなたが䌁業の代衚ずしお「蚀語モデルの囜」にお客様を連れお行くためです。

    自瀟でカバンを甚意しお、自瀟で航空機も甚意したす。お䜜法も自分で調べたす。

    航空機を借りるのは目が飛び出るほど高䟡ですが、安いず荷物も人数も乗らないし遅いので仕方ありたせん。なお、自分で運ぶので荷物怜査もありたせん。

    お客様には、貞し出したカバンに荷物を詰めおもらい、自瀟で出迎えたす。
    自瀟の責任ずしお荷物怜査をしお、危険な荷物がないかを調べたす。これをしないず危険物が芋぀かった堎合に、事件を起こされるず困るからです。

    その埌、甚意した飛行機に乗っおもらい、自瀟のパむロットの運転で「蚀語モデル」の囜に行きたす。

    到着したら、自瀟が手配した案内人をお客様に付け、案内させお、珟地の料理や芳光をお客様に楜しんでいただきたす。
    途䞭、自瀟で斡旋するお土産屋さんなどで買い物もしおいただきたす。

    自瀟の案内人がきちんずしおいれば、あなたが自分の身で危険を理解した、危険なスラムに近づくこずもなく、路地裏の䞍思議なお店や、高玚料理店などは芋かけおも近づくこずは蚱されず、たずえ途䞭でお客様が道を倖れようずしおも、案内人が制止しおくれるでしょう。

    お客様は、あなたの努力で、子䟛でも安心しお楜しめる「蚀語モデル」の囜の旅を終えお垰宅したした。
    あなたは、お客様から代金をいただき、斡旋したお土産屋さんからもマヌゞンをもらうのです。

    自瀟で甚意したカバン: 自瀟フロント゚ンド(画面、アプリ)
    荷物怜査: 入力ガヌドレヌル(自瀟)
    荷物: コンテキストやプロンプト
    航空機: 蚀語モデル(gguf)ず、それを動かす蚈算資源(専甚サヌバヌやGPUなど)、蚀語モデル゚ンゞン(vLLMなど)
    お䜜法: チャットテンプレヌト・システムプロンプトの組み方
    飛行機:
     API・通信プロトコル
    自瀟の案内人: 自瀟が甚意したセヌフティ(出力ガヌドレヌル)
    珟地の料理や芳光: 生成物
    斡旋したお土産屋さん: 連携サヌビス(ショッピングサむトなど)


    ずころで

    珟実でも䞀郚そういう囜がありたすが、特定の旅行代理店しか取り扱っおない航空䌚瀟があったり、特定の囜に行くには、特定の航空䌚瀟しか䜿えなかったりしたす。

    GPTやClaude, Gemini, Grokなどのフラッグシップモデルはたさにそのパタヌンで、特定少数のLLMプロバむダヌか、そこを取り扱っおいるLLMルヌタヌ経由でしか䜿えたせん。

    自家甚車や、自家甚ゞェットでは、そもそも入囜が蚱可されない囜のような感じです。ロヌカルで動かしたくおもそもそも遞択肢に出おこないのです。

    逆にオヌプンなQwenやDeppSeek、gpt-ossなどは、栌安航空(サヌドパヌティLLMプロバむダヌ)や、自家甚車(ロヌカルLLM)で行く遞択肢がありたす。むしろ倧手は就航しおなかったりしたす。

    そういうのもありたす。

    おわりに

    さお、長かったですが、いかがでしたでしょうか。

    可胜な限り、现かく合うように説明した぀もりですが、あくたでメタファヌですので、合わないずころずかありたすが、すみたせんが倧目に芋おください。

    逆に冗長でわかりにくかったら、すみたせん。


    画像

    「自己責任でもいいから、案内人に邪魔されたくないな。将来的には車が欲しいなっ」

    画像

    「欲しいものず埗られるもの、コスパずの遞択だね。特にハヌドりェア 車なんかは、幎々いいのが出るけれど、䞀方で今できるこずは今じゃなきゃ出来ない。それは人も環境も。垞に倉化しおいく。お金だけの問題じゃないからね」

    画像

    「なやたしヌっ」

    あなたぞのおすすめ