การประสานงานของตัวแทน: สนามรบใหม่ของ AI Control Plane
โดย Win.AI Editorial
การประสานงานของตัวแทนคือสนามรบเชิงพาณิชย์ในขณะนี้ เนื่องจากโมเดลเพียงอย่างเดียวไม่สามารถชนะดีลได้อีกต่อไป บริษัทต่าง ๆ กำลังซื้อการรับประกันเวลาการทำงาน ความหมายของเซสชัน การมองเห็น และ SLA ไม่ใช่แค่ความเร็วหรือความถูกต้องของโมเดลเท่านั้น
ทำไมการประสานงานของตัวแทนจึงมีความสำคัญ
แพลตฟอร์มจากคลาวด์รายใหญ่และเฟรมเวิร์กโอเพนซอร์สได้ส่งมอบ primitive ที่อนุญาตให้โมเดลทำการกระทำ มอบหมาย และคงสถานะ: เซสชัน การเรียกเครื่องมืออย่างเป็นโปรแกรม การส่งผ่าน และรอยรั่ว นั่นเปลี่ยนคำถามที่ผู้ซื้อถาม ทีมจัดซื้อกำลังพิจารณาตัวแทนที่มีอายุยืนยาวซึ่งเก็บสถานะ ตัวแทนย่อยแบบขนานที่ทำงานร่วมกัน และสัญญาจากผู้ให้บริการเกี่ยวกับความพร้อมและความสามารถในการคาดการณ์ต้นทุน Control plane ที่ชนะจะถูกตัดสินจากฟีเจอร์การปฏิบัติการเหล่านั้นเท่าที่จะตัดสินจากคุณภาพของโมเดล
วิธีการที่แข่งขันกันและการแลกเปลี่ยน
สามกลุ่มกำลังแข่งขันกันเพื่อเป็นเจ้าของ control plane ของตัวแทน: รันไทม์ท้องถิ่นของผู้ให้บริการ เฟรมเวิร์กโอเพนซอร์ส และสตาร์ทอัพการประสานงาน การแลกเปลี่ยนมีความเป็นรูปธรรม SDK ของผู้ให้บริการมักจะเสนอแทรกและ SLA ที่มีความล็อกอินสูงกว่า สแต็ก OSS แลกเปลี่ยนความสามารถในการพกพาสำหรับความยุ่งยากมากขึ้นในการกำหนดค่าการมองเห็นและโครงสร้างพื้นฐาน สตาร์ทอัพพยายามจะแตกต่างในด้านความสามารถในการพัฒนาของนักพัฒนาและการเชื่อมต่อตามอุตสาหกรรม แต่พวกเขาต้องชนะการยอมรับจากองค์กรที่มีความมุ่งมั่นหรือต้องถูกดูดซึมโดยผู้ให้บริการคลาวด์
| วิธีการ | ความสามารถในการพกพา | การมองเห็น | SLA / ความเสี่ยงการล็อกอิน |
|---|---|---|---|
| รันไทม์ท้องถิ่น (OpenAI, AWS, Microsoft) | ต่ำถึงกลาง | สูง, แทรกและบันทึกที่ติดตั้ง | SLA ที่แข็งแกร่ง, ความเสี่ยงจากผู้ขายที่สูงขึ้น |
| เฟรมเวิร์ก OSS (LangChain, LangGraph, Ollama) | สูง | กลางถึงสูงด้วยเครื่องมืออย่าง LangSmith | ความเสี่ยงจากการล็อกอินที่ต่ำกว่า, SLA ขึ้นอยู่กับโครงสร้างพื้นฐาน |
| สตาร์ทอัพการประสานงาน (CrewAI, Airia, อื่น ๆ) | กลาง | แตกต่าง; เครื่องมือเป็นผลิตภัณฑ์ | SLA ที่นำโดยการขาย, การรวมเฉพาะทาง |
ฟีเจอร์การมองเห็นที่ผู้ซื้อถามหาในตอนนี้รวมถึง: แทรกที่กระจายเชื่อมโยงการเรียกเครื่องมือกับการกระตุ้น การทำซ้ำการทำงานสำหรับการตรวจสอบ และการแบ่งรายจ่ายต่อตัวแทนหรือภารกิจย่อย รายละเอียดเหล่านั้นแทนที่คำสัญญาทั่วไปเกี่ยวกับ "การติดตาม" ในเช็คลิสต์การจัดซื้อ
การแลกเปลี่ยนทางปฏิบัติ รูปแบบ และการคาดการณ์สั้น ๆ
กรณีศึกษาของผู้ขายจาก LangChain และผู้ให้บริการคลาวด์และรายงานการทดลองสาธารณะมักจะเน้นถึงรูปแบบสามแบบที่เกิดซ้ำ: ทีมย้ายจากสคริปต์ต้นแบบไปยังรันไทม์ท้องถิ่นของผู้ให้บริการเมื่อพวกเขาต้องการการติดตามและ SLA สัญญา; แดชบอร์ดการมองเห็นลดการเปลี่ยนแปลงนักพัฒนามากกว่าการเปลี่ยนแปลงการกระตุ้นซ้ำเนื่องจากการทำซ้ำและการแบ่งรายจ่ายทำให้การดีบักรวดเร็วขึ้น; และตัวแทนย่อยแบบขนานเพิ่มความเร็วการทำงานในขณะที่ต้องการวินัยด้านเวลาหมดและตัวตนที่ไม่เปลี่ยนรูปเพื่อหลีกเลี่ยงค่าใช้จ่ายที่ไม่มีที่สิ้นสุด
ตัวแทนที่มีอายุยืนยาวสร้างต้นทุนการดำเนินงานสองอย่างที่องค์กรต่าง ๆ ต้องวางแผนสำหรับ: คอมพิวเตอร์ที่จองหรือว่างเมื่อเซสชันหยุดทำงาน และการเรียกเก็บเงินที่ซับซ้อนเมื่อมีการเรียกภายนอกแบบขนาน ตัวทีมความปลอดภัยเพิ่มข้อจำกัดอีกข้อ: สถานะเซสชันที่ถาวรเพิ่มความเสี่ยงต่อการรั่วไหลของการกระตุ้นระบบและการเก็บรักษาผลลัพธ์ที่ละเอียดอ่อน ดังนั้น การควบคุมการเข้าถึงและนโยบายการแก้ไขเมื่อคงอยู่จึงมีความสำคัญ
ข้อคัดค้านที่ชัดเจนคือ ความเปิดกว้างจะชนะและองค์กรจะปฏิเสธการล็อกอินจากคลาวด์ นั่นยังคงเป็นไปได้สำหรับบริษัทที่อยู่ภายใต้การควบคุม ฉันประเมินว่ามีโอกาส 60 เปอร์เซ็นต์ที่บริษัทคลาวด์ใหญ่ที่สุดจะเข้าซื้อสตาร์ทอัพการประสานงานที่เป็นผู้นำภายในสิ้นปี 2026 เหตุผลนั้นชัดเจน: คลาวด์กำลังจัดส่งรันไทม์ของตัวแทนและ SDKs ที่จำลองค่ามิดเดิลแวร์ การซื้อขององค์กรมักจะเลือก SLA ที่รวมและการเข้าซื้อกิจการเป็นวิธีที่เร็วที่สุดในการขจัด friction ของการรวมสำหรับลูกค้าขนาดใหญ่
ลองไปทำดู
คำสั่งด้านล่างผลิตแผนที่มีโครงสร้างซึ่งคุณสามารถจับคู่กับเครื่องมือหรือตัวแทนย่อย คาดว่าจะได้รับการแยกย่อยที่กระชับ มีประสิทธิภาพ และมีผลลัพธ์ที่ชัดเจน
คุณเป็นผู้ประสานงาน ผู้ใช้รายหนึ่งรายงาน: "งานผลิตของฉันล้มเหลวหลังจากการย้ายสคีมา" แบ่งงานออกเป็นสามตัวแทนย่อยแบบขนานชื่อว่า Retriever, Debugger และ DraftReply สำหรับแต่ละตัวแทนย่อย ให้ระบุ: หนึ่งอินพุต เครื่องมือที่ควรเรียก ผลลัพธ์สคีมา และเกณฑ์ความสำเร็จในหนึ่งประโยค
คำสั่งถัดไปจะแสดงตัวอย่างจุดตรวจเซสชันที่ยาวนานซึ่งเหมาะสำหรับการคงอยู่และการฟื้นฟูรวดเร็ว
คุณกำลังรันเซสชันตั๋วยาวนานด้วย id 12345 สร้างจุดตรวจ JSON เส้นเดียวที่บันทึก: id ตั๋ว สถานะ การกระทำล่าสุด และสรุปบริบท 50 คำที่เหมาะสมสำหรับการฟื้นฟูอย่างรวดเร็ว
เอกสาร SDK ของผู้ขายและบล็อกโพสต์ของผู้ขายเป็นข้อมูลพื้นฐานสำหรับการสำรวจนี้ สำหรับการอ่านเพิ่มเติมดูคู่มือสำหรับผู้เริ่มต้นของเราเกี่ยวกับ AI อิสระและบันทึกเชิงปฏิบัติเกี่ยวกับการใช้งาน LLM ส่วนตัวและการทำงานที่เพิ่มขึ้นด้วยการดึงข้อมูล
AI Agents คืออะไร คู่มือสำหรับผู้เริ่มต้นเกี่ยวกับ AI อิสระใน 20 การใช้งาน LLM ส่วนตัวเป็น RAG ที่มีความสำคัญสำหรับองค์กร
