スマホで動く小型ローカルLLMの現在地──Gemma 4をiPhoneで試して感じた実用性と課題

きっかけ

スマートフォン（iPhone）のスペック向上に伴い、ローカル環境でも小型のLLMが現実的な速度で動作するようになってきました。これまでPCを含めさまざまなローカルLLMを触ってきましたが、「手のひらのデバイスでどこまで実用的な対話や作業ができるのか」を確かめるべく、最近の小型モデルをiPhone上で実際に動かして検証してみました。

特に注目したのが「Gemma 4」系です。モバイル向けに軽量化された「Gemma 4 E2B QAT」モデルなどを試し、日常的なチャットや翻訳、ちょっとしたテキスト整理にどれほど耐えうるかを探る中で、ローカルLLMならではの強みとモバイルOS特有の壁が見えてきました。

学んだこと

• 小型モデルの日本語性能と表現力： 同等サイズの他モデルと比較しても、Gemma 4（特にE2B QATなど軽量・量子化されたもの）は日本語が自然で、ロールプレイなどの細かなニュアンスを伴うやり取りも十分に成立する。
• ローカルLLMの最大の価値は「データが端末外に出ないこと」： クラウド型LLMは汎用的な課題解決において圧倒的に強力な一方、ローカルLLMはプライバシーが完全に保たれるため、パーソナルな雑談や機微なメモの整理に向いている。
• 挙動の不変性（再現性）： クラウドサービスのようにAPI側で勝手にモデルが更新されたりアライメントが変わったりせず、モデルの癖やレスポンスの傾向を把握したまま安定して使い続けられる。
• iOSプラットフォームにおける運用の難しさ： サンドボックスの制約やバックグラウンド動作の制限など、OSの自由度の低さゆえに「他アプリとシームレスに連携させてワークフローを組む」といった運用がまだ難しい。

自分なりの理解

ローカルLLMの役割は、「クラウドの超高性能モデルの代替」ではなく「プライベートかつ固定化された思考の壁打ち相手」だと実感しました。

業務の複雑なコード生成やリサーチはクラウドモデルに軍配が上がります。しかし、個人的な感情を交えた雑談や日記の推敲、誰にも見せたくない思考の断片を扱う場合、ローカルで完結する安心感は何物にも代えがたいものです。また、趣味的な用途やロールプレイにおいては、「昨日まで動いていたプロンプトがモデルのサイレントアップデートで動かなくなる」というストレスがない点も大きなメリットです。

一方で、現状のスマートフォン、特にiOSでの利用体験にはまだ溝があります。LLMを単体のチャットアプリとして完結させる分には問題ありませんが、メールやメモ、ブラウザと有機的につなぎ込み、エージェント的に使おうとするとOSの壁に突き当たります。将来的に「AI統合型スマホ」が当たり前になる過程で、Appleや各プラットフォームがこの閉鎖性とプライバシーのバランスをどう開放していくのかが、オンデバイスAIの普及の鍵になると感じています。

実践へのつなげ方

• プライベートな思考整理・雑談チャット： 通信が発生しないため、機密情報を含むアイデア出しや、オフライン環境（移動中や電波の悪い場所）での壁打ち相手として手元のiPhoneで活用する。
• 定型的なテキスト処理のオフロード： ちょっとした箇条書きの整理や要約、短文の翻訳など、わざわざクラウドモデル使うまでもない作業をオンデバイスで完結させ、手軽かつセキュアに作業を行う。

次に試すこと

iOSの「共有」や「ショートカット」からローカルLLMへテキストを受け渡し、ブラウザの記事要約や選択した文章の翻訳をバックグラウンドに近い形で処理できるか、連携の限界を検証してみる。