はじめに:今はやりの構成を「Windowsで試していた頃」から振り返る
本記事は、ローカル LLM を自宅マシンで動かし、外部 API 課金を減らす構成について、単なる最新紹介ではなく「実際に Windows 環境で試していた時期」から振り返る。
「ローカル LLM × Tailscale × RTX 3060」といった構成は、ある時点では試行可能だったが、実際に日常利用に耐えるかは別の問題だった。発表時の話題性ではなく、その後の実測・運用性・コスト効果だ。
「今さら」と言われがちな構成でも、Windows 単機で運用できた時期があり、その経験が現在のローカル AI 設計に引き継がれている。
ここで参照する主要な技術基盤は、LLaMA 系モデル向けの C/C++ 推論ライブラリである llama.cpp(Local LLM Lab) である。
1. 当時の構成と、現在の検証結果
当時は「クラウド API からローカルへ」の流れが試されていた
開発現場では、Claude Code や AI 支援ツールで外部 LLM API を多用し、従量課金が増える傾向があった。そこで注目されたのが、自宅 PC 上で推論し、ネットワーク経由で安全に利用する設計だった。
当時の代表的な構成は次の通りである。
- 自宅 Windows PC に RTX 3060 クラスの GPU を搭載
- llama.cpp でローカルモデルを推論
- Tailscale で自宅マシンを安全な private network として公開
- 外部 API ではなく、自宅 LLM API を呼び出す
この段階で技術が「最新だったか」より「Windows で実際に動いたか」である。当時は、GPU 対応のビルドや Windows 向け運用が整いつつあり、
