headroomlabs-ai/headroom
Lớp chạy local nén đầu vào của LLM: output tool, log, chunk RAG và file được nén theo loại nội dung, bản gốc vẫn được giữ để model lấy lại khi cần. Dùng được dạng thư viện, proxy, wrapper cho agent hoặc MCP server.
Có rủi roMới đọc README và vài file chính, chưa chạy thử
Mình thấy README-pypi.md nói proxy và MCP server mặc định gửi một beacon usage ẩn danh (trong repo có cả thư mục deploy/beacon), nên data usage bị gửi tới server mà người dùng không chọn, trừ khi tự đặt HEADROOM_BEACON=off hoặc HEADROOM_OFFLINE=1.
Mình dựa vào đâu để đánh giá
Mình mới đọc README và vài file chính chứ chưa test và chỉ có thể kết luận là "đã học ý tưởng" hoặc "có rủi ro", chưa thể khẳng định là tốt hơn được.
Phù hợp với
Ai dùng agent mà token đi vào output tool lớn hoặc context lặp lại, muốn giảm mà không phải viết lại prompt.
Không phù hợp với
Chat ngắn ít context; tiết kiệm được bao nhiêu phụ thuộc mạnh vào loại nội dung đưa vào.
Repo
- Star
- 74,841
- License
- Apache-2.0Dùng, sửa, bán đều được, kể cả trong project closed-source. Chỉ cần giữ lại thông tin bản quyền của tác giả.
- Độ hoàn thiện
- active
- Lần push gần nhất
- 2026-10-09
- Mình check lần cuối
- 2026-11-14