6 phút đọc
Trong bối cảnh các AI Agent ngày càng tham gia sâu vào quy trình lập trình và quản trị hệ thống, việc kiểm soát chi phí token và đảm bảo an toàn vận hành trở thành bài toán hóc búa đối với các nhà phát triển. Để giải quyết thách thức này, Alibaba đã cho ra mắt ANOLISA (Agentic Nexus Operating Layer & Interface System Architecture) – một lớp hệ điều hành máy chủ chuyên dụng để điều phối các tác vụ của AI Agent. Được viết chủ yếu bằng ngôn ngữ Rust, dự án hiện đã thu hút 607 lượt stars và 108 lượt forks trên GitHub tính đến phiên bản cập nhật ngày 09/09/2026.
Giải pháp tối ưu môi trường thực thi AI Agent trực tiếp từ Terminal
ANOLISA hoạt động như một lớp vận hành máy chủ giúp kết nối trực tiếp các AI Agent với terminal của người dùng mà vẫn giữ nguyên shell, framework của Agent và sandbox hiện có. Trọng tâm của kiến trúc này là cosh-ng – một terminal Linux thuần AI (AI-native). Công cụ này duy trì các hành vi quen thuộc của Bash hoặc Zsh, nhưng bổ sung thêm một Agent có khả năng hiểu ý định của người dùng, tự động sử dụng các công cụ, kỹ năng (Skills) và chủ động yêu cầu phê duyệt trước khi thực hiện các lệnh có tính rủi ro cao. Nhờ đó, người dùng có thể tương tác bằng ngôn ngữ tự nhiên và dòng lệnh ngay trong cùng một terminal thay vì phải chuyển đổi qua lại với các ứng dụng chat độc lập.
Giải pháp nén ‘Token-less’ giúp giảm tới 40.5% chi phí
Một trong những điểm nhấn công nghệ lớn nhất của ANOLISA là tính năng Token-less. Cơ chế này hoạt động bằng cách loại bỏ các thông tin dư thừa khỏi schema công cụ và dữ liệu phản hồi trước khi chúng được gửi đến mô hình ngôn ngữ lớn (LLM). Cụ thể, các trường dữ liệu như debug, trace, các metadata rỗng hoặc các tag/extra không có giá trị sẽ bị lọc bỏ. Để đảm bảo tính toàn vẹn, quá trình nén này hoàn toàn có thể đảo ngược nhờ vào các điểm đánh dấu dạng <<tokenless:KEY>> để truy xuất lại dữ liệu gốc khi cần thiết.
Theo thử nghiệm thực tế từ nhà phát triển khi kết nối Token-less với công cụ Claude Code cho một tác vụ lập trình phức tạp, hệ thống đã giúp tiết kiệm tới 317.000 token (tương đương giảm 40.5% lượng token tiêu thụ). Quá trình nén này diễn ra hoàn toàn giữa Agent và mô hình nên người dùng không cần phải thay đổi mã nguồn của framework Agent hiện có.
Bên cạnh Token-less, ANOLISA còn tích hợp các giải pháp bổ trợ:
- Agent Memory: Hỗ trợ tái sử dụng các ngữ cảnh hữu ích giữa các phiên làm việc khác nhau để tránh lãng phí token.
- SkillFS: Giữ cho chế độ hiển thị kỹ năng hiện tại luôn tập trung và chỉ hiển thị các kỹ năng khác khi thực sự có nhu cầu.
- AgentSight: Công cụ giám sát sử dụng công nghệ eBPF trên Linux. AgentSight cho phép quan sát toàn bộ hành trình từ dữ liệu nhập của người dùng, các lệnh gọi mô hình, cuộc gọi công cụ cho đến các nhánh agent phụ trong cùng một chế độ xem mà không cần can thiệp vào code của Agent.
Thiết lập ranh giới an toàn cho hệ thống với Agent Sec Core
Bên cạnh việc tối ưu chi phí, ANOLISA đặc biệt chú trọng đến tính an toàn khi cho phép AI can thiệp trực tiếp vào hệ điều hành. Lớp bảo mật và phục hồi này được xây dựng dựa trên ba thành phần cốt lõi:
- Agent Sec Core: Thực hiện nhiệm vụ cô lập các hoạt động có nguy cơ gây rủi ro cao để bảo vệ hệ thống chính.
- ws-ckpt: Tạo ra các điểm khôi phục (checkpoint) cho không gian làm việc (workspace), cho phép người dùng nhanh chóng quay lại trạng thái trước đó nếu Agent thao tác lỗi.
- Skill Ledger: Quản lý và ký số cho các kỹ năng của Agent. Khi một kỹ năng đã được ký có sự thay đổi trái phép (drifted), hệ thống sẽ phát hiện và báo cáo ngay lập tức trước khi Agent kịp chạy lại. Nếu quá trình quét phát hiện lỗi nghiêm trọng, kỹ năng đó sẽ bị chặn thực thi (deny).
Cách thức cài đặt và giấy phép
Người dùng có thể bắt đầu cài đặt hệ thống thông qua ANOLISA CLI. Trong đó, cosh-ng sẽ được cài đặt ở chế độ hệ thống (system mode), còn tính năng Token-less và các khả năng khác có thể được bổ sung độc lập tùy theo nhu cầu thực tế của nhà phát triển. Dự án được phát hành hoàn toàn miễn phí dưới giấy phép mã nguồn mở Apache License 2.0.
Những điểm hạn chế cần lưu ý
Mặc dù mang lại hiệu quả tiết kiệm ấn tượng, nhà phát triển ANOLISA cũng lưu ý rằng lượng token tiết kiệm được từ Token-less chỉ áp dụng cho phần dữ liệu phản hồi của công cụ đi vào ngữ cảnh (context window) chứ không áp dụng cho toàn bộ hóa đơn của cả phiên làm việc. Hiệu quả thực tế sẽ dao động tùy thuộc vào đặc thù của từng loại công việc.
Ngoài ra, do tính năng giám sát sâu AgentSight phụ thuộc chặt chẽ vào công nghệ eBPF của nhân Linux, các nhà phát triển sử dụng hệ điều hành macOS hoặc Windows có thể sẽ gặp hạn chế và chưa thể trải nghiệm toàn vẹn tính năng này. Khả năng tương thích và hiệu suất nén của Token-less đối với các mô hình ngôn ngữ lớn khác ngoài Claude Code hiện cũng cần thêm thời gian để cộng đồng kiểm chứng và đánh giá chi tiết.
Nguồn tham khảo: Xem bài gốc
