本地运行 AI

1. llama.cpp (https://github.com/ggerganov/llama.cpp) — 基于纯C/C++实现的LLaMA接口,可以在您的处理器上本地运行;

2. Jan (https://github.com/janhq/jan) — 一个开源的ChatGPT替代品,完全离线运行于您的电脑上;

3. LocalAI (https://github.com/mudler/LocalAI) — 一个由社区驱动的独立本地API,与OpenAI兼容,使用Go语言编写;

4. ollama (https://github.com/ollama/ollama) — 用于在本地运行Llama 2和其他大型语言模型的工具;

5. LM Studio (https://lmstudio.ai/) — 用于研究、下载和运行各种大型语言模型(LLMs)的软件;

6. llamafile (https://github.com/Mozilla-Ocho/llamafile) — 允许通过单一文件运行各种LLM;

7. GPT4ALL (https://www.nomic.ai/gpt4all) — 另一个用于本地运行ChatGPT的知名解决方案;

#tools #AI #Privacy

Comments

Be the first to add a comment