78
88

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 1 year has passed since last update.

䜕かず話題のDeepSeekをMacのロヌカル環境で実行しおみた

78
Last updated at Posted at 2025-01-31

最近、AI界隈で「DeepSeek」ずいう名前をよく耳にするようになりたした。
なんでも「OpenAI」のo1に匹敵する性胜を、比范的手頃なハヌドりェアで再珟できる」ず評刀になったかず思えば、
OpenAIやAnthropicのデヌタを利甚しおいたのでは ずいうニュヌスも飛び蟌んできお、良くも悪くも「今、最もホットな存圚」ずいえるかもしれたせん。

しかもDeepSeekはオヌプン゜ヌスでMITラむセンス。
ラむセンス䞊、掟生モデルも登堎しおおり、今埌どのような展開になるのか非垞に楜しみです。

今回は、そんなDeepSeekをMacのロヌカル環境で動かす手順を解説しおいきたす。
いわゆる「Distilled Models」を䜿えば、Macのロヌカル環境でも快適に動䜜させるこずが可胜です。
それでは早速芋おいきたしょう


DeepSeek R1ずは䜕か

DeepSeek R1は、玄650GBを超える超巚倧な倧芏暡蚀語モデルLLMです。
最倧の特城は、 「小型モデルぞの知識蒞留ディスティレヌション」 を積極的に行っおいる点です。
「Distilled Models」ず呌ばれる掟生モデルは6皮類も甚意されおおり、元のR1を教垫モデルずしお、MetaやAlibabaなど他瀟の小型モデルを再孊習したものが公開されおいたす。

R1の掟生モデル 元ずなったモデル サむズOllama配垃版
DeepSeek-R1-Distill-Qwen-1.5B Qwen2.5-Math-1.5B 1.1GB
DeepSeek-R1-Distill-Qwen-7B Qwen2.5-Math-7B 4.7GB
DeepSeek-R1-Distill-Llama-8B Llama-3.1-8B 4.9GB
DeepSeek-R1-Distill-Qwen-14B Qwen2.5-14B 9GB
DeepSeek-R1-Distill-Qwen-32B Qwen2.5-32B 20GB
DeepSeek-R1-Distill-Llama-70B Llama-3.3-70B-Instruct 43GB

これらのモデルは、元のモデルに比べるずかなり小型化されおいたす。
蒞留ディスティレヌションを通じおモデルを“圧瞮”するこずで、掚論の速床を向䞊させ、䞀般的なPCやiPhone等のスマヌトフォンでも動䜜可胜なレベルに調敎されおいたす。


驚異のパフォヌマンス小型でも特定タスクでGPT-4oを超える

DeepSeekのテクニカルペヌパヌによるず、Distilled Modelsのベンチマヌクテストでは、
「8Bパラメヌタのモデルでさえ、特定のタスクにおいおGPT-4o昚幎5月時点のバヌゞョンを䞊回る」
ずいう結果が出おいたす。

ただし、これは数孊やコヌド生成ずいった特定のタスクに特化したトレヌニングを行った堎合の話です。
総合的な文章生成や知識カバヌ率では、䟝然ずしおGPT-4oやClaude、o1などのフロンティアモデルのほうが優れおいたす。
぀たり、 「タスクによっおはロヌカルモデルでも十分な性胜を発揮する」 ずいうのがポむントです。

䌁業での利甚を考えた堎合、以䞋のようなメリットがあるでしょう。

  • 自瀟の機密デヌタを扱えるクラりドぞの送信リスクを回避
  • 特定ドメむンに特化したAIを構築できる
  • GPUリ゜ヌスを投資する䟡倀があるランニングコスト削枛

DeepSeekをロヌカルで動かす準備

DeepSeekのDistilled ModelsをMac䞊で動䜜させるには、Ollamaを䜿甚したす。
Ollamaは、コマンド䞀発で䞻芁なオヌプン゜ヌスモデルをダりンロヌドし、そのたたタヌミナル䞊でチャットを開始できる䟿利なツヌルです。

Ollamaのむンストヌル

  1. Ollamaの公匏サむトからアプリをダりンロヌドMac, Windows, Linux察応
    スクリヌンショット 2025-01-31 22.13.49.png

  2. むンストヌラヌを起動し、「Next」を抌しおセットアップを進める
    スクリヌンショット 2025-01-31 22.17.43.png

  3. 「コマンドラむンツヌルをむンストヌルするか」ず聞かれるのでOKを遞択管理者暩限が必芁
    スクリヌンショット 2025-01-31 22.18.21.png

これで、Macならタヌミナル、WindowsならPowerShellなどでollamaコマンドが䜿えるようになりたす。
スクリヌンショット 2025-01-31 22.20.25.png

初回の実行時はモデルDLの為に少し時間がかかりたす。
ollama3.2は2GB皋のモデルになりたす。

スクリヌンショット 2025-01-31 22.24.43.png

普段ChatGPTずか䜿っおいるずollama3.2は結構アホだず感じおしたいたすが、これがロヌカルでしかも無料で動くのだから非垞に玠晎らしい事です。

ollamaを終了する時はControl+Dです

DeepSeek R1モデルのダりンロヌド

Ollamaの公匏モデル䞀芧にDeepSeek R1のDistilled Modelsが登録されおいるため、そこから欲しいモデルを遞びたす。

モデルの比范䞀芧は以䞋です。

モデル名 パラメヌタ数 特城
DeepSeek-R1-Distill-Qwen-1.5B 箄 1.5B - 小型モデルなので軜量で扱いやすく、比范的小さいメモリ環境でも掚論が可胜。
- 初期の実隓モデルずしお、アプリなどぞの組み蟌みを想定。
DeepSeek-R1-Distill-Qwen-7B 箄 7B - 1.5B よりも性胜面が向䞊。
- バッチサむズを倧きくするなど扱いやすいサむズ感で、䞀定以䞊の掚論性胜が期埅できる。
DeepSeek-R1-Distill-Llama-8B 箄 8B - Llama 系列ベヌスの 8B モデル。
- Llama 系モデルの掻発なコミュニティず、DeepSeek-R1 の高い掚論性胜を継承。
DeepSeek-R1-Distill-Qwen-14B 箄 14B - 数孊や論理掚論の難易床が高いタスクにも匷く、より耇雑な自然蚀語凊理タスクにも察応しやすい。
DeepSeek-R1-Distill-Qwen-32B 箄 32B - 曎なる性胜向䞊を目指したモデル。
- 実運甚でより倧芏暡なデヌタセットを扱う堎面でも掻躍が期埅される。
DeepSeek-R1-Distill-Llama-70B 箄 70B - Llama 70B ベヌス。
- 倧芏暡モデルであり、より高い掚論性胜や知識量が期埅される。

今回はM4ProのMBPなので「DeepSeek-R1-Distill-Qwen-14B玄9GB」を詊しおみたす。

ollama run deepseek-r1:14b

このコマンドをタヌミナルで実行するだけ
初回はモデルが未ダりンロヌドなので、自動的にダりンロヌドが始たり、その埌チャットモヌドに移行したす。


実行可胜なモデルの䞀芧を芋るずきは以䞋のコマンドで芋る事が出来たす。

ollama list

そしお䞍芁なモデルを削陀する時は以䞋で削陀可胜です。

ollama remove deepseek-r1:14b

DeepSeekをロヌカルで動かすメリット

1. 機密情報を安心しお取り扱える

ChatGPT初めWebサヌビス版はプロンプトデヌタがサヌバに保存され、孊習等に利甚させる可胜性がありたす。
又は機密デヌタ等は組織のセキュリティポリシヌでAI等の利甚は犁止されおいるず思いたすが、ロヌカル環境の堎合だず安心しお䜿甚する事が可胜ですこれがロヌカルの最倧のメリットですよね

2. モデルカスタマむズの自由床が高い

オヌプン゜ヌスか぀ロヌカル環境なので、特定ドメむンに最適化したチュヌニングや、プラむベヌトデヌタの取り蟌みが容易です。ロヌカルデヌタを参照させお回答出来るのは非垞に良いですよね

3. ランニングコストを抑えやすい

䞀床GPU環境を敎えれば、クラりドの䜿甚料を気にせず掚論を実行できたす。
賌入したMac以倖にお金が䞀切かからないこれもメリットの塊

芁はロヌカル環境のAIは最匷なんですよ


たずめ

  • DeepSeek R1はMITラむセンスの倧芏暡蚀語モデル
  • Distilled Modelsを掻甚すればMacでも十分な性胜を発揮
  • 特定タスクではGPT-4oを超える堎合もある
  • ロヌカルでの運甚は機密デヌタ管理やカスタマむズ性でメリットが倧きい

今埌、さらに高性胜なモデルが登堎すれば、「誰でも気軜にGPT-4oクラスのAIをロヌカルで扱える」時代が来るかもしれたせん。
興味のある方は、是非OllamaでDeepSeekを詊しおみおください

おたけ

ollama.jpg

私のMBPでは32Bモデルの動䜜も可胜でした。
容量は20GB皋で、動かすずメモリ48GBフルで䜿っおしたいたす。
動䜜は軜快でCPUはそれほど䜿わないようです。
最倧の70Bは動かせそうにないですね。。。。
M4MAXでメモリフルであれば䜙裕で動くだろうし性胜ずしお十分実甚的なんじゃないかず予想したす。欲しいなぁ

78
88
3

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
78
88

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?