GemQwen — 融合LLM

⚡GemQwen融合モデル: GemmaとQwenの良いところを蒸留で1つに焼き込んだ独自モデルが誕生しました。1モデル(約300MB)だけで文章もコードも答えるので、従来の2モデル構成(約0.9GB)よりロードが約3倍速いです。
従来の🧭自動振り分け・🤝リレー・⚔️比較もそのまま使えます。

タップして話す

0字

結果0字

音声認識はブラウザ内蔵機能（オンライン・追加ダウンロード0MB）。録音中は画面が消灯しないようにし、途切れても自動で聞き取りを再開します。🪄 整えるを押すと端末内LLMが誤変換の漢字・カタカナ化した英単語（例: ジャバスクリプト→JavaScript）・句読点を補正します。要約・感想文・整えの生成はすべて端末内で完結し、文章が外部に送られることはありません。

⚡ 融合モデル（GemQwen）— 蒸留でGemma×Qwenを1つにした独自モデル

💬 文章・会話の専門家（Gemma）— 要約・感想文・日常会話担当

🛠 コード・論理の専門家（Qwen）— プログラミング・計算担当

メンテナンス

仕組み: GemmaとQwenはアーキテクチャが違うため重みの直接マージは不可能。そこで知識蒸留を使い、2つの教師モデルの回答(日本語タスク=Gemma担当、コード=Qwen担当、さらにQwen下書き→Gemma清書のリレー合成)を1つの生徒モデル(0.5B)に学習させたのが⚡GemQwen融合モデルです。教師の重複知識は1つにまとまり、弱点は互いの強みで補完されます。従来のルーター方式(質問を判定して適任モデルへ)とリレー方式(Qwen下書き→Gemma清書)もそのまま使えます。