ご自宅のAIサーバ「Kura AI」
今回は番外編ということで、優待くらしのサービスを支えるAIサーバの存在をご紹介したいと思います。
実は、優待くらしの開発を始めようと思った夏よりも前に、パソコンパーツを集めてAIの勉強でもしようと思った時期がありました。2025年のゴールデンウィーク前後だったでしょうか。
普段の作業マシンである mac mini にLlamaを入れてLLMを動かしたら、それっぽく動いたので、これはローカルLLMの時代が来るんじゃないか？乗り遅れたらきっと老害になってしまう…という危惧があったのです。
mac mini で使えているんだから、メモリを山盛り乗せた Mac Studio を買ってLLMするのが良いかな？と思ってChatGPTにきいてみたら「いやいや、GeForce一択でしょ！10倍くらい速度変わるっしょ」って言われてしまったのでした。
ということで、mac という選択肢を早々に捨て、ChatGPTに勧められるまま、5090一択で考えたのでした
（今思えば、RTX PRO 6000 と言ってくれていれば… 256GBメモリの Mac Studio も言ってくれていれば…）
結局、マザーボードとメモリの相性なのか、購入したメモリ8枚を全て返品後、あらたに違うお店で違うメーカーのメモリ4枚を購入するということで、一旦は起動をすることに成功しました。
しかし、それからしばらく（というか2025年末〜2026年年明けまで）パーツのままで放置状態だったのでした。体調が微妙だったことと、優待くらしアプリリリースを優先していて、パソコン組み立ての気分にならなかったのでした。しかし、その頃には空前のメモリ不足で何もかも金上がっていたので、早めに買っておいて本当に良かったです。
マシン構成
| パーツ名 | メーカー | 商品名 | 購入金額 |
|---|---|---|---|
| CPU | intel | Xeon w5-3435X | 316,800 |
| ロジックボード | Asus | PRO WS W790E-SAGE SE | 212,101 |
| メモリ | キングストン | KSM48R40BD4-64MD x4 （256GB） | 261,800 |
| GPU | MSI | GeForce RTX 5090 32G VENTUS 3X OC x2 | 1,036,199 |
| SSD | Biwin | X570 PRO 4TB SSD Gen5×4 x2 | 141,066 |
| ケース | Fractal | Design Torrent Black Solid | 33,770 |
| 電源ユニット | Super Flower | LEADEX TITANIUM 1600W | 71,123 |
| CPUクーラー | Silverstone | SST-XE360-4677 | 54,819 |
| OS | Rocky Linux9 | 0 |
現在の値段はCPU、メモリ、GPUは圧倒的に値上がりしていますが、SSDはほんの少しだけ落ち着いた感はありますね。
OSのRocky Linuxが10ではなく9にしたのが、当時CUDAのサポートOSとして10は新しすぎたため、こなれた9になったのでした。
基本的にAIエージェントの管理は、使い慣れたWordPressで管理をしているので、管理画面に、今のGPUの状況などをリアルタイムに表示するようにして、負荷具合を見ながら作業をしています。
しかし、ただモデルを入れただけのLLMは全く役に立たない状態で、プログラミングに強いと言われている様々なモデルを試してみても、KMMはおろかiOSでもまともなプログラミングをしてくれない状態でした。
まだこの頃は手探り状態だったので、専用のプロンプトをいくつもいくつも書いて、それを使うしかない、つまり限られた用途でしか使えない状態が数カ月続きました。
数ヶ月…ひたすらに手探りをしたこともあり、RAGで学習させるんだとか、チェック機能が必要だとか、Cloud Code がオープンソース化されたとか、ハーネスというものの存在を知ってとか、LLMを構築するノウハウが溜まってきていました。
そして、革命は突然やってきたのです。
Fable 5 革命
優待くらしVer 1.3をリリースする際、あと少しというところでプログラムが安定しない事がありました。
具体的には、地図をズームアウトして、クラスタをタップしてゆくとズームをしてゆくのですが、そのズームへの動作が遅かったり、思うズーム率にならなかったりと、かなり手こずっていました。
そんな時、革新的と言われている Mythos のユーザー向けサービス Fable 5 がリリースされたので、早速その調整を依頼すると、なんと一発で思うような動作をするようになったのです。
驚きというよりも「嘘やろ…」という感覚で、数日間の時間が一瞬で片付いてしまったのです。
そして、これだけ複雑になったアプリのリファクタリングを僅か3時間程度で終わらせてしまうという快挙。リファクタリングによって、動作も早くなったというおまけ付き。
これは凄い！であれば、「Kura AI」と命名をしたLLMを賢くしてくれるのでは！FableのハーネスをKura AI にコピーしてくれば、遅くても賢いLLMが出来上がるのでは！と思い、明日するか〜と思っていたら、アメリカ政府によって Fable 5 が閉ざされてしまったのでした。
チャンスを逃した…と思ったのですが、それでも優待くらしのパフォーマンスアップ調整ができたことで、1.3のリリースができたのでした。
ローカルLLMモデルの革新
世界中が Fable 5 が使えなくなった事を嘆くなか、突如 Fable 5 が復活を遂げて、サブスクでも利用可能という期間限定のボーナスタイムがやってきました。
もちろん、全力で Kura AI に Fable 5 のハーネスを注入し、モデルならではの問題をプログラムを作りながら１つ１つ潰してゆくという反復学習タイムがやってきました。
最初は命令したことのゴールを見失って遊び始めたり、画像を添付しても完全無視したり、プログラムを最後まで書けなかったり…と、210万以上支払ったその価値を見出だせない挙動しかしなかったのに、なんと、簡単なiOSアプリを作れるまでに進化！
さらに、６〜７月頃にはローカルで動かせるLLMも毎日毎日新しいモデルが登場し、劇的にパフォーマンスが上がるのを体感していました。
いろんなモデルを試して、早くなった！賢くなった！と一喜一憂をしていたのですが、最終的に（2026年7月12日現在）行き着いたのが nvidia/Qwen3.6-35B-A3B-NVFP4 でした。
このモデルを使う前までは、スループットが200超えれば上出来だったものが、1,300を超えるようなスループットを叩き出し始めたのです。ハードウェアは変わっていないのに、このパワーアップはボーナスという言葉がぴったりでした。
このところ、ローカルLLMの進化が凄いスピードで起こっているのは、FableやGPTなどのモデルが出てきたり、私の選んだ GeForce5090 という環境に、NVFP4 + MTP が完璧にはまったことが大きかったように思えます。
とはいえ、最新の Fable 5 などを使ったあとにローカルLLMを使うと、GeForce5090 程度では限界があると感じたのも事実。RAGで学習させたり、素晴らしいモデルを入れて、ハーネスのアップデートを重ねたとしても、iOSアプリを作成するというレベルを求めるのは違う。と現実が見えてきました。
プログラミングもバリバリこなすLLMが欲しい！と思って 高価なGPUを何台も買うよりも、Cursor を契約したほうがコスパが良いし、毎日決まった提携の仕事をするならローカルLLMを立てたほうがコスパが良いということになるので、AIをどう使ってゆくのかというのは、結局その人に応じたバランスだなと感じています。
私の場合は、優待くらしで利用をする「IRを解析する能力」としては満足できているので、プログラミングは Cursor がサポートする様々なモデルを駆使して作る、というのがちょうど良いという事で落ち着きました。
とはいえ、最初のダメダメ状態から、かなりパワーアップされたローカルLLMで、優待くらしをもっと便利に使ってもらえる面白いサービスが誕生しそうです。
ただ今、Kura AI と名付けたローカルLLMマシンがフルパワーで作成中ですので、今しばらくお待ちください。といっても、それほど遠くないタイミングでローンチできると思います。アプリもVer 1.4 に進化しますので、お楽しみに。
また、引き続き、Android版のテスターになっていただける方を募集しておりますので、ぜひお願いいたします。
