支持在本地运行 AI 大模型的开源项目——

1. llama.cpp - 纯 C/C++ 的 LLaMA，可在本地 CPU 上运行；
https://github.com/ggerganov/llama.cpp

2. Jan - ChatGPT 的开源替代方案，可在电脑上 100% 离线运行；
https://github.com/janhq/jan

3. LocalAI - OpenAI、Claude 等人的免费开源替代品。自托管且本地优先，用 Go 编写；
https://github.com/mudler/LocalAI

4. ollama - 用于在本地级别使用 Llama 2 和其他主要语言模型的工具；
https://github.com/ollama/ollama

5. LM Studio - 用于探索、加载和运行各种大型语言模型（LLM）的软件；
https://lmstudio.ai/

6. llamafile - 允许您在单个文件中运行不同的 LLM；
https://github.com/Mozilla-Ocho/llamafile

7. GPT4ALL - 另一个本地运行 ChatGPT 的著名解决方案。
https://www.nomic.ai/gpt4all

#tools #AI