Sự phối hợp tác nhân: chiến trường mới của hệ điều khiển AI
Bởi Win.AI Editorial
Sự phối hợp tác nhân là chiến trường thương mại khi mà các mô hình không còn đơn thuần giành được hợp đồng. Các doanh nghiệp đang mua các đảm bảo về thời gian thực, ngữ nghĩa phiên, khả năng quan sát và SLA, chứ không chỉ là thông lượng mô hình thô hoặc độ chính xác.
Tại sao sự phối hợp tác nhân lại quan trọng
Các nền tảng từ các đám mây lớn và các khung mã nguồn mở đã phát triển các yếu tố cơ bản cho phép các mô hình hoạt động, ủy quyền và duy trì trạng thái: phiên, gọi công cụ theo chương trình, chuyển giao và theo dõi. Điều này thay đổi câu hỏi mà người mua đặt ra. Các nhóm mua sắm giờ đây xem xét các tác nhân có thời gian sống lâu dài giữ trạng thái, các phụ tác nhân song song hoạt động cùng nhau, và các lời hứa của nhà cung cấp về thời gian hoạt động và khả năng dự đoán chi phí. Mặt phẳng điều khiển chiến thắng sẽ được đánh giá dựa trên các đặc điểm hoạt động này cũng như chất lượng mô hình.
Các cách tiếp cận và đánh đổi cạnh tranh
Ba nhóm đang cạnh tranh để sở hữu mặt phẳng điều khiển tác nhân: thời gian thực của nhà cung cấp, các khung mã nguồn mở, và các công ty khởi nghiệp chuyên biệt về phối hợp. Các đánh đổi là cụ thể. SDK của nhà cung cấp thường cung cấp các theo dõi và SLA tích hợp với mức độ khóa cao hơn. Các ngăn xếp OSS đánh đổi tính di động để có thêm công việc cấu hình khả năng quan sát và hạ tầng. Các công ty khởi nghiệp cố gắng phân biệt dựa trên tính tiện dụng cho nhà phát triển và các kết nối ngành, nhưng họ phải giành được sự chấp nhận chắc chắn từ doanh nghiệp hoặc bị hấp thụ bởi một nhà cung cấp đám mây.
| Phương pháp | Tính di động | Khả năng quan sát | SLA / Rủi ro khóa chặt |
|---|---|---|---|
| Thời gian thực của nhà cung cấp (OpenAI, AWS, Microsoft) | Thấp đến trung bình | Cao, theo dõi và nhật ký tích hợp | SLA mạnh, tiếp xúc nhà cung cấp cao hơn |
| Khung OSS (LangChain, LangGraph, Ollama) | Cao | Trung bình đến cao với công cụ như LangSmith | Khóa chặt thấp hơn, SLA phụ thuộc vào hạ tầng |
| Khởi nghiệp phối hợp (CrewAI, Airia, những cái khác) | Trung bình | Khác nhau; công cụ là sản phẩm | SLA dẫn dắt bán hàng, tích hợp theo ngách |
Các đặc điểm khả năng quan sát mà người mua giờ đây yêu cầu bao gồm: theo dõi phân tán kết nối các cuộc gọi công cụ với các yêu cầu, các lần chạy có thể phát lại cho các cuộc kiểm toán, và việc phân bổ chi phí theo tác nhân hoặc công việc phụ. Những chi tiết cụ thể này thay thế các lời hứa mơ hồ về "giám sát" trong danh sách kiểm tra mua sắm.
Các đánh đổi thực tế, mẫu hình, và một dự đoán ngắn gọn
Các nghiên cứu tình huống của nhà cung cấp từ LangChain và các nhà cung cấp đám mây và các báo cáo thí điểm công khai thường làm nổi bật ba mẫu hình lặp đi lặp lại: các nhóm di chuyển từ các kịch bản nguyên mẫu sang thời gian thực của nhà cung cấp khi họ cần khả năng theo dõi và SLA hợp đồng; bảng điều khiển khả năng quan sát giảm bớt sự quay vòng của nhà phát triển hơn là các thay đổi yêu cầu lặp; và các tác nhân phụ song song làm tăng thông lượng trong khi yêu cầu kỷ luật nghiêm ngặt về thời gian chờ và tính không thay đổi để tránh chi phí không kiểm soát.
Các tác nhân có thời gian sống lâu dài giới thiệu hai chi phí hoạt động mà các doanh nghiệp phải lập kế hoạch cho: tính toán dự trữ hoặc nhàn rỗi khi các phiên tạm dừng, và việc lập hóa đơn phức tạp hơn khi các tác nhân lồng ghép thực hiện các cuộc gọi song song bên ngoài. Các nhóm an ninh thêm một hạn chế khác: trạng thái phiên kéo dài tăng diện tích tấn công cho việc rò rỉ hệ thống yêu cầu và lưu trữ đầu ra nhạy cảm, vì vậy các biện pháp kiểm soát truy cập và chính sách xóa khi lưu trữ quan trọng.
Phản đối rõ ràng là tính mở sẽ chiến thắng và các doanh nghiệp sẽ từ chối sự khóa chặt đám mây. Điều này vẫn khả thi đối với các công ty bị quản lý. Ước tính của tôi là có 60% cơ hội rằng ít nhất một đám mây lớn sẽ mua một công ty khởi nghiệp phối hợp hàng đầu vào cuối năm 2026. Lý do là đơn giản: các đám mây đã và đang cung cấp thời gian thực cho các tác nhân và các SDK sao chép giá trị middleware, việc mua sắm của doanh nghiệp ưa chuộng các SLA gói, và việc mua lại là con đường nhanh nhất để loại bỏ ma sát tích hợp cho các khách hàng lớn.
Thử nghiệm chính bạn
Yêu cầu dưới đây sẽ tạo ra một kế hoạch có cấu trúc mà bạn có thể ánh xạ đến các công cụ hoặc tác nhân phụ. Hãy mong đợi một sự phân tích ngắn gọn, có thể hành động với các đầu ra rõ ràng.
Bạn là một người phối hợp. Một người dùng báo cáo: "Công việc sản xuất của tôi đã thất bại sau một cuộc di chuyển lược đồ." Chia nhỏ công việc thành ba tác nhân phụ song song có tên Retriever, Debugger và DraftReply. Đối với mỗi tác nhân phụ, liệt kê: một đầu vào, công cụ nó nên gọi, lược đồ đầu ra, và một tiêu chí thành công trong một câu.
Yêu cầu tiếp theo minh họa một điểm kiểm tra phiên có thời gian sống lâu dài thích hợp để lưu trữ và tái tạo nhanh.
Bạn đang chạy một phiên vé có thời gian sống lâu dài với id 12345. Sản xuất một điểm kiểm tra JSON một dòng ghi lại: id vé, trạng thái, hành động cuối cùng, và một tóm tắt 50 từ về bối cảnh phù hợp để tái tạo nhanh.
Tài liệu SDK của nhà cung cấp và các bài viết trên blog của nhà cung cấp đã thông báo cho cuộc khảo sát này; để đọc nền tảng, hãy xem hướng dẫn cho người mới bắt đầu về AI tự động và ghi chú thực tiễn của chúng tôi về việc triển khai LLM riêng và quy trình làm việc tăng cường truy xuất.
Những tác nhân AI là gì Hướng dẫn cho người mới bắt đầu về AI tự động trong 20 triển khai LLM riêng thực tiễn RAG cho các doanh nghiệp
