Model AI miễn phí cho Hermes Agent có ba nguồn: bản :free trên OpenRouter, hạn mức miễn phí của hãng như Gemini API, và model local chạy bằng Ollama hoặc llama.cpp. Hai nguồn đầu miễn phí tiền token nhưng giới hạn số lượt và có điều khoản dữ liệu riêng; model local không bị chặn theo số lượt nhưng cần máy đủ mạnh và context từ 64K.
Bài thuộc cụm chọn LLM cho Hermes Agent của chuyên mục Hermes Agent. Danh sách và giới hạn dưới đây kiểm ngày 26/10/2026; model miễn phí thay đổi nhanh nên hãy xem lại trước khi dùng. Bài không hướng dẫn cách vượt giới hạn của các gói miễn phí.
Tại sao chọn model miễn phí cho Hermes Agent cần cẩn thận hơn?
Hermes Agent gọi model nhiều lần cho mỗi yêu cầu và gửi kèm phần prompt cố định lớn, nên hạn mức miễn phí tính theo lượt hoặc theo token mỗi phút hết nhanh hơn khi chat thường. Model miễn phí cũng hay bị gỡ, đổi giới hạn hoặc chậm, và một số nhà cung cấp dùng prompt để huấn luyện.
Nếu chọn sai, agent có thể không khởi động vì context dưới 64K, gọi công cụ sai, dừng giữa tác vụ khi hết hạn mức, hoặc gửi dữ liệu bạn không muốn chia sẻ tới nhà cung cấp lạ.
Model miễn phí trên OpenRouter cho Hermes Agent
OpenRouter có 17 model bản :free ngày 26/10/2026, cộng bộ định tuyến openrouter/free tự chọn một model miễn phí phù hợp. Đây là cách đơn giản để thử Hermes không tốn tiền: một API key, chọn model trong hermes model.
Model (ID OpenRouter) Context Ghi chú nvidia/nemotron-3-ultra-550b-a55b:free1 triệu Tên model ghi 550B tham số nvidia/nemotron-3.5-lightning:free1 triệu Dòng Nemotron 3.5 nvidia/nemotron-3-super-120b-a12b:free262 nghìn Model dùng làm ví dụ trong bài đổi model google/gemma-4-31b-it:free262 nghìn Model mở của Google google/gemma-4-26b-a4b-it:free262 nghìn Bản MoE của Gemma 4 thinkingmachines/inkling:free1 triệu Có bản small poolside/laguna-s-2.1:free262 nghìn Có thêm bản XS cohere/north-mini-code:free256 nghìn Tên model ghi bản cho code openrouter/free200 nghìn Bộ định tuyến chọn model miễn phí
Giới hạn của model :free
Theo tài liệu OpenRouter, model :free giới hạn 20 request mỗi phút, 50 request mỗi ngày nếu tài khoản đã mua dưới 10 credit, và 1.000 request mỗi ngày nếu đã mua từ 10 credit (OpenRouter: limits). Với agent nhiều vòng gọi tool, 50 request có thể chỉ đủ vài tác vụ mỗi ngày.
Ảnh chụp trang API Rate Limits trong docs OpenRouter ngày 26/10/2026.
Dữ liệu của bạn đi đâu?
OpenRouter ghi mỗi nhà cung cấp có chính sách lưu và huấn luyện riêng, hiển thị theo từng endpoint, và tài khoản có tuỳ chọn riêng cho model trả phí và miễn phí (OpenRouter: provider logging). Một số nhà cung cấp phục vụ model miễn phí có thể dùng prompt để huấn luyện. Trong Hermes, có thể loại các nhà cung cấp lưu dữ liệu bằng:
provider_routing:
data_collection: "deny"Khoá theo file cấu hình mẫu của Hermes (cli-config.yaml.example); bật khoá này có thể làm một số model miễn phí không còn tuyến nào để chạy.
Cách lấy key và dùng OpenRouter xem bài OpenRouter là gì và dùng miễn phí API LLM trên OpenRouter.
Hạn mức miễn phí của Gemini API, Groq và các hãng khác
Một số hãng cho dùng API miễn phí trong hạn mức, nối với Hermes bằng API key như bản trả phí. Đổi lại, hạn mức nhỏ và điều khoản dữ liệu của bản miễn phí thường khác bản trả phí; hãy đọc điều khoản trước khi gửi dữ liệu thật qua agent.
Google Gemini API (AI Studio)
Hạn mức miễn phí theo từng model xem trong Google AI Studio; trang rate limits của Google không ghi số cố định (Gemini API rate limits). Docs Hermes cũng cảnh báo hạn mức Gemini miễn phí nhỏ so với agent chạy lâu. Điều khoản Gemini API cho bản miễn phí ghi:
- Google dùng nội dung bạn gửi và câu trả lời để cung cấp, cải thiện và phát triển sản phẩm.
- Người duyệt có thể đọc, chú thích và xử lý input, output của API (sau khi tách khỏi tài khoản, API key).
- Không gửi thông tin nhạy cảm, bí mật hay thông tin cá nhân vào bản miễn phí.
- Ứng dụng phục vụ người dùng ở EEA, Thuỵ Sĩ, Anh chỉ được dùng bản trả phí (Gemini API Additional Terms).
Cách lấy key: lấy API key Google Gemini. Hermes không đăng nhập được bằng gói Gemini hay Google AI Pro của cá nhân, nên vẫn cần API key.
Groq
Groq có gói miễn phí; giới hạn chính xác của tổ chức bạn xem ở trang Limits trong tài khoản (Groq rate limits). Với Hermes, chú ý giới hạn token mỗi phút: phần prompt cố định của agent có thể lớn hơn hạn mức của một số model, khiến request bị từ chối. Đo phần cố định bằng hermes prompt-size rồi so với hạn mức trước khi chọn.
NVIDIA Build và các endpoint dùng thử khác
Hermes có provider NVIDIA Build; điều kiện dùng thử xem trên trang của NVIDIA (tham khảo dùng API miễn phí với NVIDIA AI). Endpoint dùng thử hợp để thử model, không hợp làm model chính cho agent chạy 24/7.
Dùng thử của Nous trong Hermes Desktop
Từ v0.22, Hermes Desktop cài mới cho dùng thử model nous/welcome một lần để làm quen; CLI và gateway không có model này (Hermes release notes). Đợt miễn phí Nemotron 3 Ultra trên Nous Portal chỉ diễn ra 04–18/06/2026 và đã kết thúc (Hermes guide).
Chạy model local miễn phí qua Ollama cho Hermes Agent
Model local qua Ollama, llama.cpp hoặc vLLM không tốn tiền token, không bị chặn theo số lượt và prompt không rời máy. Điều kiện là máy đủ RAM/VRAM cho cả model và context 64K, và bạn tự đặt context vì Ollama mặc định dùng context nhỏ.
Theo docs Hermes, Ollama trên máy dưới 24 GB VRAM mặc định chỉ dùng 4.096 token context, thấp hơn nhiều so với mức 64.000 token Hermes cần. Đặt lại trước khi chạy:
OLLAMA_CONTEXT_LENGTH=64000 ollama serveSau đó chạy hermes model, chọn Custom endpoint, nhập http://localhost:11434/v1 và tên model. Không đặt được context qua API tương thích OpenAI của Ollama; dùng biến môi trường, systemd override hoặc Modelfile (Hermes Agent: AI Providers). Từ v0.22, Hermes Desktop có thêm cách cài model local một chạm bằng llama.cpp (tải GGUF từ Hugging Face).
Cần cấu hình máy thế nào?
Bộ nhớ cần gồm trọng số model, bộ nhớ đệm cho context 64K trở lên và bản thân Hermes. Model càng lớn, context càng dài thì càng cần nhiều RAM/VRAM; dung lượng cụ thể xem trên trang của từng model trong thư viện Ollama hoặc Hugging Face. Model nhỏ chạy được nhưng thường gọi tool kém ổn định hơn.
Máy Mac Apple Silicon có phù hợp không?
Mac Apple Silicon dùng bộ nhớ hợp nhất, GPU dùng chung RAM hệ thống, nên chạy được model lớn hơn so với máy có VRAM rời nhỏ cùng dung lượng RAM. Đây là lựa chọn hợp lý để chạy Hermes local trên máy cá nhân nếu bạn đã có Mac nhiều RAM.
Có nên chạy Ollama trên VPS không?
Có thể, nhưng thường không rẻ hơn trả token. VPS đủ RAM để chạy model đủ tốt cho agent đắt hơn nhiều so với VPS chỉ chạy Hermes, trong khi các model giá thấp trên API chỉ vài USD mỗi tháng ở mức dùng nhẹ (xem ví dụ tính ở bài chi phí Hermes Agent 1 tháng).
- Nên chạy local trên VPS khi: dữ liệu không được gửi ra ngoài, đã có sẵn máy chủ mạnh, hoặc cần chạy model liên tục với khối lượng rất lớn.
- Nên dùng API khi: mới bắt đầu, mức dùng chưa cao, không muốn quản trị máy chủ model.
So sánh đầy đủ xem bài Hermes Agent nên chạy local hay VPS và local model là gì.
Nên chọn model miễn phí nào cho từng nhu cầu?
Chọn theo việc bạn cần hơn là theo tên model: thử nhanh thì dùng OpenRouter :free, dữ liệu nhạy cảm thì dùng model local, còn agent chạy 24/7 phục vụ việc thật thì nên chuyển sang model trả phí giá thấp.
Nhu cầu Nên dùng Lưu ý Thử Hermes trong vài ngày OpenRouter :free hoặc openrouter/free50 request/ngày nếu chưa mua credit Dữ liệu không được rời máy Model local qua Ollama, llama.cpp Đặt context ≥ 64K, cần đủ VRAM Thử model của Google Gemini API bản miễn phí Không gửi dữ liệu cá nhân, nhạy cảm Agent chạy 24/7 cho công việc Model trả phí giá thấp Xem LLM giá rẻ cho Hermes Agent
Điều khoản và rủi ro khi dùng model miễn phí cho AI Agent
Model miễn phí đi kèm ba nhóm rủi ro: dữ liệu (prompt có thể bị lưu, đọc hoặc dùng huấn luyện), gián đoạn (hết hạn mức, model bị gỡ), và tài khoản (vi phạm điều khoản có thể bị khoá). Agent đọc file, email, dữ liệu khách hàng nên rủi ro dữ liệu lớn hơn chat thường.
- Không lách giới hạn: tạo nhiều tài khoản, xoay nhiều key để vượt hạn mức miễn phí thường trái điều khoản của nhà cung cấp và có thể dẫn tới khoá tài khoản.
- Cẩn thận với dịch vụ trung gian: công cụ gom nhiều gói miễn phí hoặc nhiều tài khoản qua một endpoint cần bạn đưa API key cho bên thứ ba; đọc kỹ rủi ro trước khi dùng (ví dụ 9router là gì).
- Không gửi dữ liệu nhạy cảm: dùng model local, hoặc nhà cung cấp trả phí có chính sách không lưu dữ liệu, cho dữ liệu khách hàng và nội bộ.
- Giữ key an toàn: lưu trong
~/.hermes/.envquyền600, không đưa vào ảnh chụp màn hình hay repository (xem cách ly sandbox cho AI Agent trên VPS). - Có model dự phòng: đặt
fallback_providersđể agent không dừng khi model miễn phí hết lượt.
Ưu nhược điểm chung của model miễn phí xem thêm bài ưu nhược điểm khi dùng model AI miễn phí.
Bài viết liên quan trong cụm Model & chi phí Hermes:
- Nên chọn LLM nào cho Hermes Agent
- LLM giá rẻ cho Hermes Agent
- Đổi model LLM cho Hermes Agent
- Kết nối Hermes Agent với OpenRouter
- Chi phí chạy Hermes Agent mỗi tháng
Kết luận
Model miễn phí hợp để làm quen Hermes Agent và để chạy local khi dữ liệu phải ở lại trong máy. Với agent chạy thật mỗi ngày, giới hạn lượt và điều khoản dữ liệu của bản miễn phí thường là lý do nên chuyển sang model trả phí giá thấp, có model dự phòng và hạn mức chi tiêu.
Muốn chạy Hermes Agent 24/7 mà không tự cài? VPS Hermes Agent của Tino cài sẵn Hermes Agent trên VPS NVMe đặt tại Việt Nam; bạn vẫn có quyền root để cấu hình. Xem cấu hình và giá trên trang sản phẩm.
Những câu hỏi thường gặp
Có chạy Hermes Agent miễn phí hoàn toàn được không?
Được, nếu dùng model local qua Ollama hoặc llama.cpp trên máy của bạn: không tốn tiền token và không bị chặn theo số lượt. Phần mềm Hermes cũng miễn phí. Chi phí còn lại là phần cứng và điện.
Hermes Agent dùng Groq được không?
Được, qua API key Groq hoặc endpoint tương thích OpenAI. Hãy kiểm giới hạn token mỗi phút trong tài khoản Groq, vì phần prompt cố định của Hermes có thể vượt hạn mức của một số model.
Model miễn phí trên OpenRouter có đủ cho Hermes chạy 24/7 không?
Thường không. Giới hạn 20 request/phút và 50 hoặc 1.000 request/ngày, cộng việc model có thể bị gỡ, khiến agent dễ dừng giữa chừng. Dùng để thử, còn chạy thật nên có model trả phí làm chính hoặc dự phòng.
