𝗗𝗨𝗡.𝗜𝗠 分享发现
本地运行 AI
1.
llama.cpp
(
https://github.com/ggerganov/llama.cpp
) — 基于纯C/C++实现的LLaMA接口,可以在您的处理器上本地运行;
2.
Jan
(
https://github.com/janhq/jan
) — 一个开源的ChatGPT替代品,完全离线运行于您的电脑上;
3.
LocalAI
(
https://github.com/mudler/LocalAI
) — 一个由社区驱动的独立本地API,与OpenAI兼容,使用Go语言编写;
4.
ollama
(
https://github.com/ollama/ollama
) — 用于在本地运行Llama 2和其他大型语言模型的工具;
5.
LM Studio
(
https://lmstudio.ai/
) — 用于研究、下载和运行各种大型语言模型(LLMs)的软件;
6.
llamafile
(
https://github.com/Mozilla-Ocho/llamafile
) — 允许通过单一文件运行各种LLM;
7.
GPT4ALL
(
https://www.nomic.ai/gpt4all
) — 另一个用于本地运行ChatGPT的知名解决方案;
#tools #AI #Privacy
Comments
Be the first to add a comment