close

Cách cấu hình Long-Term Memory cho Hermes Agent bằng RAG và Vector Database

Tác giả: Đông Tùng Ngày đăng: 08/10/2026 Chuyên mục: Hermes Agent
Disclosure
Website Tino blog được cung cấp bởi Tino Group. Truy cập và sử dụng website đồng nghĩa với việc bạn đồng ý với các điều khoản và điều kiện trong chính sách bảo mật - điều khoản sử dụng nội dung. Tino Group có thể thay đổi điều khoản sử dụng bất cứ lúc nào. Việc bạn tiếp tục sử dụng Tino blog sau khi thay đổi có nghĩa là bạn chấp nhận những thay đổi đó.
Why Trust Us
Các bài viết với hàm lượng tri thức cao tại Tino blog được tạo ra bởi các chuyên viên Marketing vững chuyên môn và được kiểm duyệt nghiêm túc theo chính sách biên tập bởi đội ngũ biên tập viên dày dặn kinh nghiệm. Mọi nỗ lực của chúng tôi đều hướng đến mong muốn mang đến cho cộng đồng nguồn thông tin chất lượng, chính xác, khách quan, đồng thời tuân thủ các tiêu chuẩn cao nhất trong báo cáo và xuất bản.

Long-Term Memory cho Hermes Agent được cấu hình bằng một memory provider ngoài như OpenViking: cài và chạy OpenViking trên VPS, cài plugin hermes plugins install openviking, chọn provider bằng hermes memory setup, rồi nạp tài liệu để Hermes tìm lại theo ngữ nghĩa (RAG) khi trả lời.

Bài thuộc nhóm skills, memory và tích hợp cho Hermes Agent; giới thiệu agent có ở Hermes Agent là gì. Memory mặc định (MEMORY.md, USER.md) và cách Hermes tự rút skill được hướng dẫn riêng ở bài cấu hình Persistent Memory cho Hermes Agent; bài này dành cho trường hợp bạn cần một kho kiến thức lớn hơn nhiều so với vài nghìn ký tự.

Long-Term Memory trong Hermes Agent là gì?

Long-Term Memory (bộ nhớ dài hạn) là khả năng lưu thông tin và tài liệu ngoài cuộc hội thoại rồi gọi lại đúng phần liên quan ở những phiên sau. Với Hermes Agent, phần này do một memory provider ngoài đảm nhiệm, chạy song song với memory mặc định.

Ví dụ, bạn cung cấp cho Hermes Agent:

  • Tài liệu sản phẩm
  • Tài liệu kỹ thuật
  • Quy trình nội bộ
  • Thông tin dự án
  • Ghi chú từ những cuộc trò chuyện trước
  • Tài liệu Markdown, PDF hoặc DOCX
  • Website hoặc repository code

Các nội dung này có thể được lưu, lập chỉ mục và truy xuất lại theo ngữ nghĩa. Khi bạn hỏi:

“Dự án ABC đang sử dụng cơ sở dữ liệu nào?”

Hermes không phải đưa toàn bộ kho tài liệu vào cửa sổ ngữ cảnh. Memory provider tìm những đoạn liên quan nhất rồi bổ sung vào ngữ cảnh để model trả lời. Khái niệm RAG được giải thích kỹ ở bài RAG là gì.

Long-Term Memory trong Hermes Agent là gì?

RAG và Vector Database giúp Hermes Agent ghi nhớ như thế nào?

RAG và vector database giúp Hermes ghi nhớ bằng cách đổi tài liệu thành vector theo nghĩa, lưu vào kho, rồi khi bạn hỏi thì tìm các vector gần nghĩa nhất và đưa đoạn văn tương ứng vào ngữ cảnh. Bạn chỉ cần nắm 3 khái niệm: embedding, vector database và RAG.

Embedding

Embedding chuyển nội dung thành các vector số biểu diễn ý nghĩa của văn bản.

Ví dụ:

  • “Cách backup VPS”
  • “Hướng dẫn sao lưu máy chủ”

Hai câu sử dụng từ khác nhau nhưng có ý nghĩa gần nhau nên vector tương ứng cũng có xu hướng nằm gần nhau. Nhờ vậy, hệ thống có thể tìm thông tin dựa trên ý nghĩa thay vì chỉ khớp từ khóa.

Vector Database

Vector Database lưu các vector được tạo từ tài liệu. Khi người dùng đặt câu hỏi, câu hỏi cũng được chuyển thành vector. Hệ thống sau đó tìm những vector có độ tương đồng cao nhất.

RAG và Vector Database giúp Hermes Agent ghi nhớ như thế nào?

RAG

RAG là viết tắt của Retrieval-Augmented Generation. Quy trình có thể hình dung như sau:

Người dùng hỏi → tìm dữ liệu liên quan → đưa dữ liệu vào context → LLM tạo câu trả lời

Nhờ vậy, Hermes Agent có thể sử dụng kho kiến thức lớn mà không cần nhồi toàn bộ tài liệu vào mỗi prompt.

Persistent Memory và Long-Term Memory khác nhau ra sao?

Persistent Memory là memory mặc định của Hermes, gồm hai file nhỏ luôn được nạp vào system prompt; Long-Term Memory là kho lớn bên ngoài, chỉ lấy phần liên quan tới câu hỏi. Hai cơ chế chạy song song, không thay thế nhau. Memory mặc định gồm:

Thành phầnChức năng
MEMORY.mdLưu ghi chú, môi trường làm việc, quy ước và thông tin Hermes đã học
USER.mdLưu sở thích, phong cách làm việc và một số thông tin về người dùng

Theo docs Hermes, MEMORY.md giới hạn 2.200 ký tự (khoảng 800 token), USER.md 1.375 ký tự (khoảng 500 token), nạp vào system prompt như một ảnh chụp cố định đầu phiên; ghi thêm giữa phiên thì phiên sau mới thấy (docs Memory, 26/10/2026).

Đây là cơ chế rất phù hợp để lưu một lượng nhỏ thông tin quan trọng. Tuy nhiên, nếu bạn có hàng trăm tài liệu, hàng nghìn ghi chú hoặc nhiều phiên làm việc dài, đưa toàn bộ nội dung vào MEMORY.md là không phù hợp.

Long-Term Memory dựa trên RAG giải quyết vấn đề này bằng cách chỉ lấy những thông tin liên quan đến câu hỏi hiện tại.

Có thể hiểu ngắn gọn:

  • Persistent Memory = những điều quan trọng cần nhớ thường xuyên.
  • RAG / Vector Database = kho kiến thức lớn để tìm lại khi cần.

Docs Hermes xác nhận provider ngoài là phần bổ sung: MEMORY.md và USER.md vẫn hoạt động như cũ, và chỉ một provider ngoài được bật tại một thời điểm.

Nên dùng giải pháp nào để tạo Long-Term Memory cho Hermes Agent?

Hermes Agent hỗ trợ nhiều memory provider; từ v0.22, RetainDB và ByteRover đi kèm bản cài, còn Honcho, Mem0, Hindsight, Supermemory, Holographic và OpenViking cài từ plugin catalog bằng hermes plugins install <tên>. Bảng dưới tóm tắt theo docs Memory Providers (docs Hermes, 26/10/2026):

ProviderCàiDữ liệu lưu ởPhù hợp
OpenVikingPlugin catalogTự host (máy bạn hoặc cloud)Kho tri thức tự host, duyệt dạng cây thư mục
HonchoPlugin catalogHoncho Cloud hoặc tự hostNhiều agent, ngữ cảnh xuyên phiên
Mem0Plugin catalogMem0 Cloud, server riêng hoặc chạy trong tiến trìnhMuốn tự động trích memory, ít cấu hình
HindsightPlugin catalogHindsight Cloud hoặc PostgreSQL localNhớ theo đồ thị thực thể, quan hệ
HolographicPlugin catalogSQLite localChỉ chạy local, không phụ thuộc bên ngoài
ByteRoverĐi kèmLocal, tuỳ chọn đồng bộ cloudLập trình viên, memory mang theo được, có CLI
SupermemoryPlugin catalogSupermemory Cloud hoặc tự hostGợi nhớ ngữ nghĩa, hồ sơ người dùng
RetainDBĐi kèmRetainDB CloudĐội đã dùng hạ tầng RetainDB

Bài này dùng OpenViking, cơ sở ngữ cảnh mã nguồn mở của Volcengine (ByteDance), giấy phép AGPL-3.0, bản v0.5.2 ngày 23/10/2026 (GitHub OpenViking). OpenViking không phải sản phẩm của Nous Research; giới thiệu chi tiết ở bài OpenViking là gì. Lý do chọn:

  • Có plugin chính thức cho Hermes trong plugin catalog, do Volcengine bảo trì.
  • Tự host được trên chính VPS chạy Hermes.
  • Tìm kiếm theo ngữ nghĩa trên kho vector.
  • Nạp được tài liệu, thư mục và URL.
  • Tự trích memory khi phiên kết thúc.
  • Tổ chức tri thức dạng cây viking://, đọc theo tầng L0/L1/L2.
  • Không bắt buộc dùng dịch vụ memory cloud bên thứ ba.

Cách cấu hình Long-Term Memory cho Hermes Agent bằng OpenViking

Cấu hình OpenViking cho Hermes gồm 8 bước: cập nhật Hermes, cài OpenViking bằng uv, khởi tạo và chạy server, cài plugin rồi chọn provider, kiểm tra, nạp tài liệu, thử tìm kiếm và thử ghi nhớ qua phiên. Phần hướng dẫn giả định:

  • Hermes Agent đã được cài trên VPS
  • Bạn có thể SSH vào VPS
  • Hermes đang hoạt động bình thường
  • Bạn muốn chạy OpenViking trên cùng VPS với Hermes

Lưu ý: nên chạy OpenViking trong môi trường Python riêng thay vì cài chung vào môi trường của Hermes. Hermes kết nối với OpenViking qua HTTP (mặc định http://127.0.0.1:1933) nên hai bên không cần dùng chung package.

Bước 1: Kiểm tra và cập nhật Hermes Agent

Kiểm tra phiên bản:

hermes --version

Nếu muốn cập nhật bản Hermes hiện tại:

hermes update

Hướng dẫn đối chiếu với Hermes v0.22.5 (23/10/2026). Từ v0.22, OpenViking không còn đi kèm bản cài mà chuyển sang plugin catalog; nếu bạn từng cấu hình OpenViking ở bản cũ, hermes update tự cài plugin cho bạn.

Sau khi cập nhật, kiểm tra lại:

hermes --version

Bước 2: Cài đặt OpenViking trên VPS

Cách hiện được OpenViking khuyến nghị là cài qua uv. Nếu VPS chưa có uv, chạy:

curl -LsSf https://astral.sh/uv/install.sh | sh

Sau đó mở lại phiên SSH hoặc bổ sung thư mục binary vào PATH nếu cần:

export PATH="$HOME/.local/bin:$PATH"

Kiểm tra:

uv --version

Tiếp theo cài OpenViking:

uv tool install openviking --upgrade

Cách cài bằng uv tool tạo môi trường riêng cho OpenViking, giúp hạn chế xung đột dependency với Hermes Agent. Đây cũng là quy trình được Quick Start hiện tại của OpenViking khuyến nghị.

Kiểm tra:

openviking-server --help

Nếu command hiển thị bình thường, quá trình cài đặt cơ bản đã hoàn tất.

Bước 3: Khởi tạo OpenViking

Sau khi cài đặt, chạy lệnh:

openviking-server init

Tại giao diện thiết lập, thực hiện lần lượt:

  1. Choose Setup mode: Chọn Step-by-step setup.
  2. Embedding setup: Chọn Cloud API → OpenAI, nhập API Key và sử dụng model text-embedding-3-small (mặc định).
  3. VLM provider: chọn nhà cung cấp model cho bước phân tích tài liệu. Tác giả chọn OpenAI Codex (Subscription), đăng nhập tài khoản ChatGPT và giữ model mặc định trình cài gợi ý lúc chụp ảnh; bạn cũng có thể chọn API key OpenAI hoặc provider khác.
  4. Query planner: Nhập N để bỏ qua.
  5. Server & auth: Chọn Local (127.0.0.1) và giữ cổng 1933.
  6. Save configuration?: Nhập y để lưu.
  7. Validate the setup now?: Nhập y để kiểm tra cấu hình.

Dùng gói ChatGPT cho một công cụ bên thứ ba: docs Hermes ghi rõ điều kiện gói và cách tính vào hạn mức Codex “chưa được tài liệu hoá”; điều khoản OpenAI cho trường hợp này chưa kiểm được. Hãy đọc điều khoản OpenAI và theo dõi hạn mức; với dữ liệu công việc, API key trả theo token rõ ràng hơn.

Sau khi kiểm tra thành công, khởi động OpenViking:

openviking-server

Mặc định, OpenViking hoạt động tại http://127.0.0.1:1933. Hãy giữ dịch vụ chạy trong quá trình kết nối và sử dụng.

Lưu ý an toàn: giữ OpenViking nghe trên 127.0.0.1, không mở cổng 1933 ra Internet. Theo docs Hermes, nếu Hermes tự khởi động openviking-server (khi endpoint local chưa chạy), server đó thừa hưởng toàn bộ biến môi trường của Hermes, kể cả token bot; vì vậy nên tự chạy OpenViking trước khi mở Hermes.

Bước 4: Kết nối OpenViking với Hermes Agent

Mở một phiên SSH khác. Từ Hermes v0.22, cài plugin OpenViking trước:

hermes plugins install openviking

Sau đó chạy:

hermes memory setup

Tại giao diện cấu hình, thực hiện:

  1. Memory provider setup: Chọn openviking.
  2. OpenViking connection: Chọn Custom để sử dụng OpenViking đang chạy trên VPS.
  3. Server endpoint: Nhập http://127.0.0.1:1933.
  4. OpenViking credential: Chọn No API key vì đang sử dụng server local chưa bật xác thực.
  5. Save OpenViking config: Chọn Mirror to OpenViking store để lưu cấu hình cho cả Hermes Agent và OpenViking CLI.
  6. OpenViking profile name: Nhập local rồi nhấn Enter.

Nếu màn hình hiển thị:

OpenViking memory is ready
Created and linked OpenViking profile.
Start a new Hermes session to activate.

Quá trình liên kết cấu hình đã hoàn tất. Hãy mở phiên Hermes Agent mới để kích hoạt memory provider. Cấu hình kết nối được lưu trong .env của profile (OPENVIKING_ENDPOINT=http://127.0.0.1:1933) và có thể dùng lại từ ~/.openviking/ovcli.conf.

Bạn có thể kiểm tra bằng lệnh:

hermes memory status

Lưu ý: Cấu hình liên kết thành công chưa đồng nghĩa khả năng RAG đã hoạt động đầy đủ. Cần bảo đảm OpenViking đang chạy và Embedding đã vượt qua bước kiểm tra trước khi nhập tài liệu và thử tìm kiếm.

Bước 5: Kiểm tra Memory Provider

Chạy:

hermes memory status

Bạn cần thấy OpenViking đang được chọn làm Memory Provider. Tuy nhiên, chỉ nhìn trạng thái provider chưa đủ để khẳng định server OpenViking đang phản hồi bình thường.

Hãy kiểm tra thêm:

curl http://127.0.0.1:1933/health

và:

openviking-server doctor

Nếu cả Hermes và OpenViking đều hoạt động bình thường, phần kết nối cơ bản đã hoàn tất.

Bước 6: Đưa tài liệu vào Vector Database

Đây là bước biến OpenViking thành kho kiến thức RAG cho Hermes Agent.

Ví dụ bạn có thư mục:

/home/user/tai-lieu/

Bên trong có:

san-pham.md
quy-trinh.md
huong-dan.pdf
faq.docx

Có thể nhập toàn bộ thư mục:

ov add-resource /home/user/tai-lieu \
  --to viking://resources/tai-lieu \
  --wait

Trong đó, tham số --wait yêu cầu CLI chờ quá trình xử lý hoàn thành.

OpenViking sẽ xử lý tài liệu, tạo semantic information và xây dựng vector index phục vụ việc tìm kiếm sau này.

Bạn cũng có thể thêm một URL bằng lệnh:

ov add-resource https://example.com/docs \
  --to viking://resources/docs \
  --wait

Hoặc thêm một file:

ov add-resource ./huong-dan.md \
  --to viking://resources/huong-dan \
  --wait

OpenViking hiện hỗ trợ nhiều dạng dữ liệu phổ biến như TXT, Markdown, JSON, YAML, code, PDF, DOCX và nhiều loại media khác.

Bước 7: Kiểm tra khả năng truy xuất bằng RAG

Trước tiên, thử tìm trực tiếp bằng OpenViking.

Ví dụ:

ov find "Quy trình backup máy chủ là gì?" \
  --uri viking://resources/tai-lieu

OpenViking sẽ thực hiện semantic search và trả lại những nội dung có liên quan.

Bạn cũng có thể xem cấu trúc:

ov tree viking://resources/tai-lieu

Hoặc xem phần overview:

ov overview viking://resources/tai-lieu

Đây là cách rất hữu ích để kiểm tra dữ liệu trước khi thử trực tiếp trên Hermes Agent.

Sau đó mở Hermes và hỏi:

Dựa trên tài liệu trong OpenViking, hãy cho tôi biết quy trình backup máy chủ được quy định như thế nào?

Khi cần thêm thông tin, Hermes có thể sử dụng viking_search để tìm nội dung liên quan, sau đó dùng viking_read để đọc sâu hơn.

Đây chính là luồng RAG:

Câu hỏi → Semantic Search → Tài liệu liên quan → Context → Câu trả lời

OpenViking tải ngữ cảnh theo nhiều tầng thay vì luôn lấy toàn bộ nội dung (theo docs Hermes: L0 khoảng 100 token, L1 khoảng 2.000 token, L2 là nội dung đầy đủ):

  • L0: nội dung tóm tắt rất ngắn;
  • L1: overview chi tiết hơn;
  • L2: nội dung đầy đủ.

Cách tổ chức này giúp giảm lượng context không cần thiết khi kho dữ liệu ngày càng lớn.

Bước 8: Kiểm tra khả năng ghi nhớ qua nhiều phiên

RAG tài liệu và Memory từ hội thoại có liên quan nhưng không hoàn toàn giống nhau.

Để thử Long-Term Memory, hãy yêu cầu Hermes:

Hãy ghi nhớ trong Long-Term Memory rằng dự án Demo đang sử dụng PostgreSQL và backend được viết bằng Python.

Hermes có thể sử dụng công cụ viking_remember để lưu thông tin.

Sau đó kết thúc phiên làm việc và mở một phiên mới.

Hỏi:

Dự án Demo đang sử dụng database và ngôn ngữ backend nào?

Nếu Memory đã được lưu và truy xuất chính xác, Hermes có thể tìm lại thông tin từ OpenViking thay vì phụ thuộc vào lịch sử hội thoại hiện tại.

OpenViking cũng hỗ trợ tự động trích xuất Memory khi session được commit. Hermes mô tả các nhóm dữ liệu được trích xuất gồm profile, preference, entity, event, case và pattern.

Hermes Agent xử lý Long-Term Memory sau khi cấu hình ra sao?

Sau khi cấu hình, Hermes tự gọi OpenViking ở ba thời điểm: đầu mỗi lượt để tìm memory liên quan, sau mỗi câu trả lời để đồng bộ hội thoại, và khi phiên kết thúc để trích memory mới. Agent còn có 6 tool riêng để tự tìm, đọc, duyệt, ghi, xoá memory và nạp tài liệu khi cần.

Sơ đồ OpenViking được gọi ở đâu trong một phiên Hermes: đầu phiên nạp MEMORY.md và USER.md vào system prompt; mỗi lượt tìm trước trong OpenViking, ghép đoạn liên quan theo tầng L0 L1 L2, model trả lời, đồng bộ lượt; cuối phiên tự trích memory, tài liệu chỉ thêm khi chạy ov add-resource

Điểm quan trọng là Hermes không cần đưa toàn bộ kho kiến thức vào prompt. Agent chỉ cần truy xuất những phần phù hợp với yêu cầu hiện tại.

Hermes Agent xử lý Long-Term Memory sau khi cấu hình ra sao?

Cách sử dụng Long-Term Memory hiệu quả

Long-Term Memory hiệu quả khi bạn tách rõ ba loại dữ liệu: quy ước ngắn để ở memory mặc định, sự kiện và quyết định để provider tự trích, tài liệu dài đưa vào resource. Kiểm tra tìm kiếm trước khi tin kết quả, và sao lưu kho OpenViking như mọi dữ liệu quan trọng khác:

  • Chỉ lưu thông tin quan trọng vào Memory: ưu tiên sở thích, quy ước, quyết định, kinh nghiệm hoặc thông tin dự án cần sử dụng lâu dài.
  • Đưa tài liệu lớn vào Resource: PDF, DOCX, Markdown, tài liệu kỹ thuật hoặc Knowledge Base nên được lưu để truy xuất bằng RAG thay vì đưa trực tiếp vào Memory.
  • Chia dữ liệu theo từng chủ đề: ví dụ company, product, support, development để Hermes tìm kiếm đúng phạm vi hơn.
  • Kiểm tra khả năng tìm kiếm: dùng ov find để xác nhận OpenViking có tìm được dữ liệu liên quan trước khi kiểm tra trên Hermes.
  • Hạn chế lưu dữ liệu nhạy cảm: đặc biệt khi nhiều người dùng hoặc nhiều Agent cùng truy cập một hệ thống.
  • Sao lưu định kỳ: nên backup Memory, Resource và cấu hình OpenViking để tránh mất dữ liệu khi nâng cấp hoặc thay đổi hệ thống.
Cách sử dụng Long-Term Memory hiệu quả

Cấu hình Long-Term Memory nhanh trên VPS Hermes Agent của Tino

Trên VPS Hermes Agent của Tino, OpenViking được cài từ trang quản lý chỉ với vài cú nhấp, không cần chạy các lệnh uv, plugin và cấu hình ở trên. Cách này hợp với người mới hoặc khi bạn không muốn tự xử lý môi trường Python và dịch vụ chạy nền trên VPS.

Bước 1: Đăng nhập vào trang quản lý VPS Hermes Agent.

Bước 2: Chọn mục Memory nâng cao. Sau đó, chọn Cài đặt OpenViking.

Mục Memory nâng cao trên trang quản lý VPS Hermes Agent của Tino với nút Cài OpenViking; dòng yêu cầu cấu hình gói đã được che

Bước 3: Chờ hệ thống hoàn tất quá trình cài đặt và cấu hình.

Sau khi cài xong, OpenViking sẽ được sử dụng để mở rộng khả năng Long-Term Memory, semantic search và truy xuất dữ liệu theo cơ chế RAG cho Hermes Agent.

Cách này phù hợp với người mới vì không cần tự cài môi trường Python, cấu hình service hay xử lý dependency trên VPS.

Muốn chạy Hermes Agent 24/7 mà không tự cài? VPS Hermes Agent của Tino cài sẵn Hermes Agent trên VPS NVMe đặt tại Việt Nam; bạn vẫn có quyền root để cấu hình. Xem cấu hình và giá trên trang sản phẩm.

Bạn dùng trong 30 ngày, không hài lòng được hoàn 100% (xem điều kiện).

Khi nào chưa cần Long-Term Memory cho Hermes Agent?

Chưa cần Long-Term Memory khi bạn chỉ muốn Hermes nhớ vài quy ước, sở thích hay đường dẫn: memory mặc định đủ dùng và không tốn thêm tài nguyên. Cũng nên cân nhắc khi VPS ít RAM, khi tài liệu chứa dữ liệu cá nhân hoặc bí mật kinh doanh, hoặc khi bạn chưa có thói quen sao lưu.

  • Embedding và phân tích tài liệu tốn phí API theo lượng dữ liệu nạp vào.
  • Mọi thứ Hermes gửi cho provider (lượt hội thoại, đầu ra tool) được lưu ở provider đó; với provider cloud, dữ liệu rời khỏi VPS.
  • OpenViking là phần mềm AGPL-3.0 của bên thứ ba, cần tự cập nhật và theo dõi lỗi.

Kết luận

Long-Term Memory với OpenViking cho Hermes một kho kiến thức tìm theo nghĩa, bên cạnh memory mặc định nhỏ gọn. Hãy bắt đầu với một thư mục tài liệu nhỏ, kiểm tra bằng ov find, rồi mới mở rộng. Khi đã quen, bạn có thể thử provider khác mà không ảnh hưởng MEMORY.md và USER.md.

Các bài viết liên quan:

Những câu hỏi thường gặp

Nếu dịch vụ bộ nhớ gặp sự cố thì Hermes có ngừng hoạt động không?

Thường là không. Theo docs Hermes, bước tìm memory trước mỗi lượt chạy nền, không chặn câu trả lời. Khi provider lỗi, agent vẫn trả lời bằng memory mặc định và lịch sử phiên.

Long-Term Memory có làm tăng chi phí API không?

Có thể. Semantic search sử dụng Embedding, trong khi một số bước phân tích hoặc trích xuất Memory có thể cần VLM/LLM. Chi phí phụ thuộc vào provider, lượng tài liệu, số lượt truy xuất và model được chọn. Nếu khối lượng dữ liệu lớn, nên tách rõ Persistent Memory, Resource và tài liệu RAG để tránh xử lý dữ liệu không cần thiết.

OpenViking có phải cài chung môi trường Python với Hermes không?

Không. OpenViking có thể chạy trong môi trường riêng và Hermes kết nối thông qua HTTP. Tài liệu tích hợp còn khuyến nghị tách hai môi trường để tránh xung đột dependency.

Có bắt buộc phải dùng Vector Database không?

Không. Nếu chỉ cần nhớ một vài thông tin quan trọng, Persistent Memory mặc định có thể đáp ứng. Vector Database phù hợp hơn khi cần tìm kiếm trong lượng dữ liệu lớn.

Đông Tùng

Senior Technology Writer

Là cử nhân Quản trị kinh doanh của Trường Đại học Tài chính - Marketing, Tùng bắt đầu làm việc tại Tino Group từ năm 2021 ở vị trí Content Marketing để thỏa mãn niềm đam mê viết lách của bản thân. Sở hữu khả năng sáng tạo đặc biệt, anh cùng đội ngũ của mình đã tạo nên những chiến dịch quảng cáo độc đáo cùng vô số bài viết hữu ích về nhiều chủ đề khác nhau. Sự tỉ mỉ, kiên trì và tinh thần sáng tạo của Tùng đã góp phần lớn vào thành công của Tino Group trong lĩnh vực marketing trực tuyến.

Xem thêm bài viết

Bài viết liên quan

Xem nhiều