高校生用の電子辞書でLLMを動かしてみた ―0.024GHz/0.016GB

世界初？電子辞書で行う完全オフライン推論

前回の実験、「高校生用の電子辞書でセレビィを捕まえてみた」の続編です。
今流行りのローカルAI。もう動かすために100万円以上のRTX5090搭載PCを用意する必要はありません。
330円のジャンク電子辞書で十分です。実際に電子辞書でLLMを動かすことができました。
推論は別サーバーで結果だけ表示。という類のものではなく、推論処理そのものを電子辞書上で完結させています。

「………こ…ん…に…ち…は…。」

実際に動かすとおそらくこんな感じです。
ですがこれは事前に与えられた文字を返すのではなく、その場で健気に、何と言えばいいかを考えてくれている証拠です。
大人な皆さまにおかれましては、これを遅いとするのではなく、
お子さんが頑張って立ち上がろうとしている場面を見守るかのような温かい眼差しで待ってあげてください。

マシンスペック

今回使ったのもCASIO EX-word DATAPLUS 6 XD-B4800。
EX-word DATAPLUS 5/6/7シリーズであれば実行できると思いますが、上記以外は動作未確認です。
また、これ以外の世代については非推奨です。

前回記事の流用で、改めてB4800のスペックは以下の通りです。自作ソフトでのダンプ検証結果を含みます。

CPU：CASIO Custom SH7305-series / SH-4A（1C1T 0.024GHz）
RAM：16-bit / Single Channel 0.016GB
GPU：Integrated LCD Controller
VRAM：0.000GB
ROM：NOR Flash 0.032GB
Display：528 × 320
Power：0.6W ※推定

先の例に挙げた、フラッグシップのRTX5090機。参考として

mouse G TUNE FG-A9G90　1,429,800円(税込)～

こちらと比較すると、
消費電力はおおよそ 1/1000
価格に至ってはおおよそ 1/4000
と、大変環境にもお財布にも優しい構成となっております。

LLMモデル紹介

今回使用するモデルは、独自に学習させたオリジナルモデル、
ToTo-40417/EXLLM-0.005Bです。
電子辞書が無い場合でも、一般的なPCをお持ちの場合はLM Studio等からダウンロードして利用できます。

Primary target: CASIO EX-word XD-B4800
Embedded版: 0.0053B
LM Studio版: 0.0054B
GGUF: 0.010GB F16
RTX 3060: 239.082 tok/s
EX-word: 0.52–0.55 tok/s

電子辞書での動かし方

詳細に関しては、こちらのリポジトリREADMEをご覧ください。

簡単に説明すると、
実行ソフトをビルド→モデルをダウンロード→専用ツールを使って電子辞書に書き込み
これだけで、内部設定などを変更することなくソフトを動かすことができ、文字を入力したり、例文を選択すると推論がスタートします。
また、開発用フォークバージョン（exllm-benchmark）を使うことで、トークン生成速度やTTFT（最初の文字が出てくるまでの時間）を計測することができます。

本ソフトの追加機能

このexllm-exwordでは、現代AIソフトに求められているニーズに合わせ、LLM推論のみならず以下のような機能を追加しております。

スクリーンショット撮影機能

トークン生成中以外のタイミングで、「履歴」「ヒストリー」（機種によって表現が違う）ボタンを押すことで、
内部にスクショファイルを保存することができます。
この記事内の画像も、これで作成したものです。

Thinkingモード

本アプリの選択画面にて、「Thinking」をONに切り替えることで
質問→一度考える→考えた結果を踏まえて、もう一度考える
という構造で、回答に厚みを加えることが可能です。
多分回答精度は上がりません

0.005Bは「LLM」と呼べるのか

呼べます。
Transformerを使って次トークン予測して文章生成させております。
5Mパラメーターで日本語出力できるだけで、この子えらい！と褒めてください。
一般的なSLM（small Language Model）よりもさらに小さなモデルです。
TLM（Tiny Language Model）が適切かもしれません。
いや、Large Language Modelではなく、Little Language Modelかもしれません。
要するにこれは（何の略かはさておき）呼称的には間違いなく
「LLM」と呼べるものなのです。

ロードマップ

5M級モデルということで、時間をかけて高性能モデルを生成するのではなく、とことん尖らせて目的に合ったモデルを量産し、場面に応じてモデルを切り替えて推論させる、という方向性を目指します。
exllm-exwordでも、実行モデルを切り替えられるようにしていく予定です。
だって電子辞書なんですもの。たくさん辞書があって当然でしょう。

追：2026/10/25

DLカウンターは1063まで伸びました。
初投稿の謎LLMモデルとしては、中々良かったのではないでしょうか？