ローカルAI/MCPサーバー

クラウドAPIに頼らず端末上でAIを動かすローカルAIの動向や、MCPサーバーの実装・活用に関する知見を扱います。

6件の記事

モバイルのCPU/NPUとデスクトップのGPU、それぞれの得意分野に任せる「ネットワークGPU」構成

モバイル向けのCPU/NPUは省電力・小型・小規模タスクに最適化され、デスクトップのGPUは高電力・大規模タスクに最適化されています。最適化の方向性が異なるこの2つを、LAN経由で組み合わせる「ネットワークGPU」構成が、互いの苦手分野をどう補うかを整理します。

UbuntuとRustでローカルAI推論サーバーを自作する

モバイル向けノートPCのGPU/NPUの非力さを補うため、型落ちのGeForce GTX 1080Tiを積んだUbuntu機にRust+llama.cppでローカルAI推論サーバーを自作しました。Foundry Localを使わなかった理由、ビルドで詰まったポイント、実測9.2倍という数字を紹介します。

ローカルAI環境でMCPサーバーを動かす

Claude DesktopのようなクラウドAI前提でMCPサーバーを解説した記事の姉妹編として、Foundry LocalのようなローカルAIランタイムでMCPを使う場合に何が変わるかを整理します。コード例は実際に動かして疎通確認まで行ったC#/.NET製のstdio MCPサーバー・クライアントをもとにしています。

「NPUはAIに最適」は省電力の文脈の話。推論性能はGPUが圧勝する

Copilot+ PCのようにNPU搭載を訴求するマシンが増えていますが、「NPUがAIに最適」というメッセージは省電力の文脈でのみ正確です。推論性能そのものではGPUが依然優位という整理と、それでもNPU搭載機が無意味ではない理由を解説します。

クラウドAIとローカルAI、開発観点でのメリット・デメリット比較

Microsoft Foundry Localのような登場によって、ローカルAIの導入障壁は下がってきています。とはいえクラウドAIを丸ごと置き換えるものではありません。コスト構造・レイテンシ・プライバシー・モデル品質・運用負荷という開発観点の軸で、両者の向き不向きを整理します。

Microsoft Foundry LocalでローカルAIが驚くほど身近になった

端末上でLLMを動かすローカルAIは、以前は環境構築だけでかなりの手間がかかりました。Microsoft Foundry Local（2026年7月時点でパブリックプレビュー）は、この手間を数コマンドまで圧縮しています。何が変わったのか、そして現時点での限界を整理します。