llama.cpp
身近なハードウェアで動くC/C++製のLLM推論
llama.cppは、GGUF形式のLLMをCPUやGPUで実行するためのオープンソースのC/C++エンジンで、組み込みサーバーを備える。
llama.cpp と類似ツールの比較
| プロダクト | 価格 | オープンソース | セルフホスト | 対応環境 |
|---|---|---|---|---|
| llama.cpp | 無料 | ○ | ○ | Mac、Windows、Linux |
| vLLM | 無料 | ○ | ○ | Linux、セルフホスト |
| LocalAI | 無料 | ○ | ○ | セルフホスト、Linux、Mac |
| Ollama | 無料プランあり | – | ○ | Mac、Windows、Linux |
| Open WebUI | 無料プランあり | ○ | ○ | セルフホスト、Web |
| LiteLLM | 無料プランあり | ○ | ○ | セルフホスト、API |
| Dify | 無料プランあり | ○ | ○ | Web、セルフホスト |
llama.cpp に似たツール
よくある質問
llama.cpp は無料ですか？
はい、llama.cpp は無料です。
llama.cpp はオープンソースですか？
はい、llama.cpp はオープンソースです。
llama.cpp はセルフホストできますか？
はい、llama.cpp は自分のサーバーで動かせます。
llama.cpp はどの環境で使えますか？
llama.cpp は Mac、Windows、Linux で使えます。
llama.cpp の代わりになるツールは？
似たインディープロダクト：vLLM、LocalAI、Ollama、Open WebUI ほか4件。
あなたのプロダクトですか？ 情報を更新する。