FreeLLMAPI 快速上手一个免费 API 聚合 34 家提供商的额度【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapi各家提供商的密钥和限流分散管理很麻烦FreeLLMAPI 把 34 家提供商的免费层收进一个 OpenAI 兼容的/v1接口背后。每月约 74 亿 token 的免费推理容量凭一把统一密钥就能用。跑起来5 条命令启动本地免费 API前提是机器上有 Docker含 Compose和 OpenSSL。命令链如下git clone https://gitcode.com/GitHub_Trending/fr/freellmapi cd freellmapi ENCRYPTION_KEY$(openssl rand -hex 32) printf ENCRYPTION_KEY%s\nPORT3001\n $ENCRYPTION_KEY .env docker compose up -d第 1、2 行拉源码、进目录第 3 行生成一把随机主密钥提供商密钥落盘时靠它加密第 4 行把密钥和端口3001写进.env第 5 行把 API 和仪表盘容器拉起来Windows 用户把这几条丢进 WSL 执行即可也可以直接装桌面版.exe免账号免密码从系统托盘就能打开仪表盘。确认生效在 Playground 发一句话浏览器打开http://localhost:3001服务器版首次进入要设一个邮箱 密码账号进Keys页添加至少一个提供商密钥Google AI Studio、Groq、Mistral 都行任意 OpenAI 兼容端点也行可选在Fallback Chain里拖一下顺序决定谁优先复制页顶的统一密钥freellmapi-…格式到Playground页发一句话成功标准Playground 里出现回复且回复下方标明了实际应答的提供商、模型和延迟就算通了。页面打不开就先docker compose ps看容器是否在跑、端口是不是 3001。值不值得用免费池能撑住多少每月约74 亿 token免费推理容量按每月烧 50 万 token 的小项目算这个池子够跑一年以上不用盯配额474 个模型家族、635 个免费端点即使你只留两三家提供商的密钥池里也有得选单家限流不会把项目卡死只有一个/v1端点、端口3001把 SDK 的base_url指过来就能用其余代码一行不改核心能力智能路由、统一密钥与多模型合成限流了自动换智能路由怎么工作解决什么问题某家提供商触发限流你的请求不能因此断掉。怎么触发请求里传modelauto想偏速度用auto:fast偏智力用auto:smart都不用改仪表盘。怎么确认效果响应头X-Routed-Via会写明哪个提供商真正处理了这次请求Models 页的列表顺序就是当前真实路由顺序每个模型挂着实时评分。路由器像调度中心的调度员——某辆「车」密钥报 429/5xx 事故就被安排进冷却请求自动交下一辆。应用一辈子只见一把密钥统一密钥解决什么问题N 套提供商密钥散落在配置里改起来心虚。怎么触发把 Keys 页顶部的统一密钥填进 SDK 的api_keyfrom openai import OpenAI client OpenAI(base_urlhttp://localhost:3001/v1, api_keyfreellmapi-your-unified-key) r client.chat.completions.create( modelauto, messages[{role: user, content: 用一个词打个招呼}]) print(r.choices[0].message.content)除了换base_url和密钥和直连 OpenAI 的写法没有任何区别。怎么确认效果调用正常返回Keys 页里每把提供商密钥带健康状态点和最近体检时间。真实密钥用 AES-256-GCM 加密存在本地 SQLite只在请求时内存里解密。让一份答案更稳Fusion 多模型合成解决什么问题单个免费模型能力一般答得不够稳。怎么触发请求虚拟模型modelfusion路由器把同一份提示词并行发给一组风格各异的免费模型各自起草再由裁判模型综合出最终答案。怎么确认效果同一个问题分别用单模型和 fusion 各问一遍对比信息密度和细节覆盖。常见坑及处理办法⚠️忘了仪表盘密码服务器版没有邮箱可发重置链接一次性重置码直接打在服务器日志里、15 分钟内有效。用docker compose logs -f freellmapi翻出来填回重置表单。⚠️局域网其他设备打不开页面容器默认只发布在127.0.0.1别的机器开http://服务器IP:3001会一直卡着。要开放就加HOST_BIND0.0.0.0启动且只在可信网络里这么做——服务是单用户的唯一防线就是那把统一密钥。⚠️指望它有前沿模型的水准池里没有前沿模型也没有 SLA头部模型跑满每日配额后傍晚到深夜整体智力明显下滑UTC 午夜才重置。白天用没问题。项目定位是个人实验与学习真要上线发布前换成付费 API。跑通之后有两个进阶方向把 Claude Code、Codex CLI 这类编程智能体指过来clients 文档有一键配置命令或者把 Ollama、vLLM 本地模型当自定义端点接进 Keys 页免费池和本地模型混着路由。流式、工具调用、Embedding、图像语音的完整接口见 API 参考数据目录、备份与日志位置在 安装文档。【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapi创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考