赛道情报 / 全球
本地大模型
在自己设备上运行的模型与推理工具。
红海 · 数据分类
搜索下降 · 成熟替代项目较多
该类别已有成熟开源替代项目。比较其优势，找到用户选择你的产品的具体理由。
报告日期 · 方法版本 2.0.0 · 中 证据置信度
实际测量的搜索词: local llm · 最近 8 个完整周与此前 8 周对比
- 在公开的 GitHub 检索范围内，匹配到 3033 个活跃项目。
- 关键词“local llm”有 104 个完整周，其中 0% 的周数据被报告为零。
- 竞争压力
- ≥90 / 100 · 竞争已有规模
- 直接替代项目
- 29
- 判断依据
- 近期多窗口趋势
- 匹配的活跃 GitHub 项目
- 3,033
- 搜索热度增速
- -72% · 最近 8 个完整周与此前 8 周对比
- 关键词与地区
- local llm · 全球
- 完整周观测数
- 104
简短研究报告
近八周本地LLM的搜索关注度已观察到下降，同期年度变化显示相近水平。开源供给已观察到成熟，待补充的评审指向样本覆盖仍在收集中。
- 针对已观察到的开源替代方案，比较一项明确的切换优势。
- 围绕一个与产品意图相关的工作流，开展小范围聚焦实验。
- 细化同一意图的搜索词，并查看具体项目。
AI 根据下方证据生成的解释；采取行动前请核对来源。
判断依据
- 相邻两个 8 周窗口的搜索热度中位数下降 72%。
- 当前检索范围内匹配到 3,033 个活跃仓库。可结合具体产品与用户场景继续研究。
- 4 周搜索变化：-13%；13 周变化：-61%。这两个周期用于核对 8 周比较的方向。
- 项目角色：直接替代 29 个、周边项目 29 个、资源资料 5 个、待核对 37 个。
- 竞争压力：91–100/100；独立替代项目 41 分、成熟替代项目 30 分、头部项目实力 20 分。
原始证据
GitHub 仓库搜索 · topic:local-llm fork:false archived:false stars:>=1 pushed:>=2025-09-17
采集于 2026-09-17T05:29:25.856Z
Google Trends 搜索热度 · 采集于 2026-09-17T05:29:25.856Z
主要仓库
| 仓库 | Star 数 | 简介 |
|---|---|---|
| HKUDS/nanobot | 48,240 | Ultra-lightweight, open-source, self-hosted personal AI agent framework in Python with WebUI, tools, memory, MCP, multi-agent workflows, automation, and chat apps |
| mozilla-ai/llamafile | 25,977 | Distribute and run LLMs with a single file. |
| LearningCircuit/local-deep-research | 9,098 | ~95% on SimpleQA (e.g. Qwen3.6-27B on a 3090). Supports all local and cloud LLMs (llama.cpp, Ollama, Google, ...). 10+ search engines - arXiv, PubMed, your private documents. Everything Local & Encrypted. |
| open-multi-agent/open-multi-agent | 6,933 | Self-hosted TypeScript agent runtime with durable approvals and verifiable run records. Own it, approve it, audit it. |
| MakazhanAlpamys/Soup | 6,721 | Fine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU. |
| dograh-hq/dograh | 5,680 | Open source voice AI platform. Self-hosted alternative to Vapi and Retell. On Prem, BYOK across Speech to Speech or LLM/STT/TTS, with a visual workflow builder, MCP native and telephony support. |
| maziyarpanahi/openmed | 5,331 | Local-first healthcare AI: clinical NER & HIPAA PII de-identification that runs 100% on-device. 2,200+ medical models, 21 languages, Apple MLX + Python, no cloud, no patient data leaving your network. Apache-2.0 |
| vinta/pangu.js | 4,826 | Opinionated paranoid text spacing in JavaScript, with on-device AI semantic judgment |
| langroid/langroid | 4,103 | Harness LLMs with Multi-Agent Programming |
| raullenchai/Rapid-MLX | 3,764 | The fastest local AI engine for Apple Silicon. 4.2x faster than Ollama, 0.08s cached TTFT, 100% tool calling. 17 tool parsers, prompt cache, reasoning separation, cloud routing. Drop-in OpenAI replacement. Works with Claude Code, Cursor, Aider. |
结果的适用范围
- Google Trends 衡量相对搜索关注度。客户、收入和付费意愿可通过直接研究验证。
- 供给统计覆盖当前 GitHub 查询匹配的活跃仓库。进一步的竞争研究可结合其他仓库与商业产品。
- 仓库密度与搜索关注度提供互补线索。结合用户与产品证据，可进一步判断竞争与需求。
- 竞争压力是已观察开源替代项目的研究指标。Star 与 Fork 反映开发者关注和代码复用；实际用户采用和商业产品需进一步研究。
- 展示项目为按 Star 排序的样本，竞争压力代表下限；扩展覆盖可进一步完善判断。
- 部分项目角色待进一步核对，压力区间已计入其可能影响。
搜索热度衡量关注度，客户需求通过用户研究验证；分类门槛为公开经验规则，并持续接受实证校准。
