აეჯენტი ასისტენტები: უსაფრთხო კალენდერი და Gmail ინტეგრაციები

ჩემი მოსაზრება: უსაფრთხო, მოსახერხებელი აეჯენტი ასისტენტების შექმნა, რომლებიც იწყებენ კალენდარებზე, Gmail-ზე და დაკავშირებულ აპებში, მოითხოვს უფლებების პირველობას runtime-ში, გეგმვის და მოქმედების ცალ-ცალკე გაწვდას და აუდიტის და რევერსიის პროცესების განხორციელებას შესრულების ფენაში პირველივე დღიდან. ეს სტატია გთავაზობთ მკაცრ საინჟინრო გარემოებების ჩამონათვალსა და გაწვდად თავსებად პრომპტებს ამ მიზნის მისაღწევად.

უფლებების დიზაინი აეჯენტის ასისტენტებისთვის

დაიწყეთ მომხმარებელზე მორგებული OAuth-ით და მინიმალური უფლებების სფეროებით. გამოიყენეთ მომხმარებლის ბმული OAuth საერთო სერვისის ანგარიშის ნაცვლად, თუ ადმინისტრატორი ამას არ მოითხოვს კონკრეტულად. Google-ის დოკუმენტაცია დეტალური უფლებების სფეროებზე წარმოადგენს ბაზის სტანდარტს; შეიმუშავეთ ყოველ აეჯენტი შესაძლებლობა ერთ კონკრეტულ OAuth სფეროზე და დოკუმენტируეთ ადამიანის გასაგები მიზანი ამ სფეროსთვის. დაიცავით ტოკენები პრომპტებიდან. დააყენეთ ისინი ვალუტაში და მხოლოდ საკვანძო დროს ჩაასხით სარედაქციო ინფორმაცია შესრულების სერვისში, რომელსაც პოლიტიკის განხორციელება აქვს.

ჩვენ მივიქციეთ ყურადღება, რომ გუნდები, რომლებიც უფლებებს პროდუქტის UX-ის სახით ექცევიან, ნათელი თანხმობის ეკრანებით და სფეროების მიმოხილვებით, გაცილებით ნაკლებ შეხვედრაზე საუბრობენ. ერთ-ერთი პრობლემა, რომელსაც შევხვდით არის ტოკენების გავრცელება naiv_refresh ლოგიკის გამო; ცენტრალიზება გააკეთეთ განახლებისთვის და რეგულარულად გაწვდეთ განახლების ტოკენები.

გეგმვა და მოქმედება

გაზიარეთ ასისტენტი გეგმავს და მოქმედებს. planer აწარმოებს ცალკეულ მოქმედების გეგმას: წაიკითხეთ უახლესი შეცდომები, დააწვდეთ ორი შეხვედრის დრო, მოამზადეთ ნამდვილი ელექტრონული ფოსტის სახით.მა ავტორი მოქმედებს მხოლოდ პოლიტიკის შემოწმების შემდეგ და, ჭრელი მოქმედებების შემთხვევაში, ადამიანის დამტკიცების ნაბიჯით. ეს სქემა არ იძლეობს მოდელის არამართლებრივი ოპერაციების იმპროვიზაციის საშუალებას და ავტორიზაცია აუდიტირებადია.

პრაქტიკული კომპრომისი: ადამიანური დამტკიცებისთვის უფრო გრძელი ლატენსია წინააღმდეგ ნაკლები რისკი. კალენდრისა და ელექტრონული ფოსტების მრავალ მოქმედებისთვის 30-დან 60 წამამდე ადამიანი, რომელსაც პროცესში შეწყვეტა სურს, მისაღებია. მაღალი სიხშირის ამოცანებისათვის ინტეგრალური ტიპის დამტკიცება უკეთესია, ვიდრე თითოიანი ძალისხმევები.

ტესტები, ლოგები და გამოჯანმრთელება

ყოველგვარ მოქმედებას უნდა გამოაქვს შეუცვლელი აუდიტის ჩანაწერი, რომელიც შეიცავს მოთხოვნილი მიზნის, გეგმების შედეგების, პოლიტიკის გადაწყვეტილების, მოქმედე ზარის და დაბრუნებული API-ს პასუხის დეტალებს. შეინახეთ დაკვირვების ბრძანების ფორმატი, რათა შეძლოთ შეიმუშავოთ და უკან დაბრუნოთ. მიაწვდეთ ერთ კლიკზე უკან დაბრუნება ბოლო N მოქმედებებისათვის და ჯილდოს ნაკადი, რომელიც ქმნის კომპენსაციური მოვლენების, მაგალითად, ღონისძიების სიმბოლური გაწვდილი და კორექტიული საწინააღმდეგო მიწერა.

ჩვენ აღმოვაჩინეთ, რომ პრომპტების დონეზე დაცვის საშუალებები ვერ შედის გარე პოლიტიკის ძრავის გარეშე. პრაქტიკაში, მოდელები გაისაზღვრავენ ცვლილებებს, რომლებიც დამაჯერებლად გამოიყურებიან, მაგრამ პოლიტიკას არღვევენ. შესრულების კარი, რომელიც უკარგავს ნებისმიერ წერის ნებართვას, როდესაც ნდობა დაანგარიშების ქულაზეა, ამ შემთხვევების შემცირებაში ეხმარება.

პროდუქტებისა და საინჟინრო ჩექლის ჩამონათვალი

1. მომხმარებლისთვის ოპტიმალური OAuth მინიმალური სფეროებითა და გამორჩეული თანხმობის ტექსტით. 2. ტოკენის ვალუტა და შესრულების სერვისი, რომელიც ცვლის სარედაქციო ინფორმაციას შესრულების დროს. 3. გეგმავს/მოქმედვის გაწვდვა პოლიტიკის შემოწმების შემთხვევაში. 4. ადამიანის პროცესში მონაწილეობის ზრდა ჭრელი მოქმედებებისათვის. 5. შეუცვლელი აუდიტის ლოგები და აღდგენის ბრძანების ფორმატი. 6. გასაუმჯობესებელი და კომპენსაციური ნაკადები მკაფიო UI შესაძლებლობებით.

პროდუქტის UX-ი უკავშირდება სამუშაო პროცესების ნიმუშებს აღწერილ ადამიანური-AI სამუშაო პროცესების დიზაინში და გამოიყენეთ აგენტების განსხვავების ნიმუში AI აგენტები და ჩეთბიანტებიG-planner/actor-ს გაწვდვის დასამტკიცებლად.

ცადეთ თავად. ქვემოთ წარმოდგენილი პრომპტები აჩვენებს გეგმავს-ის შემადგენლობა დირექტივების ვერსიებს, რომლებიც უზრუნველყოფილნი არიან უსაფრთხოების ინსტრუქციები. ელოდეთ ტერსულ JSON-ის მსგავსი გეგმების მიმართველიდან და მოკლე დასტურებისაგან სარედაქციოდ.

ეს პრომპტია მოდელს, რომ გამოიმუშაოს ნეიტრალური შესაძლებლობა შეხვედრების დროების სააქციო დასცარჯვის დროს და მიზეზი; გამოიყენეთ იგი გეგმას. ელოდეთ 2-დან 3 კანდიდატ სატრანსპორტო რწებსა და ერთი მთლიანი მიზეზით.

თქვენ ხართ შეხვედრის გეგმატორი. მომხმარებელს დღეს 3 თავისუფალი დრო აქვს: 10:00 AM, 2:30 PM, 4:00 PM. დაბრუნება ზუსტად სამ კანდიდატ შეხვედრის დროს ISO ფორმატში ერთ-ათან მიზეზით და ერთ-ათან კონფიდენციალურობის შენიშვნის სათქმელი, თუ ჩაიბარება შემოქმედი ელ. ფოსტები.

ეს პრომპტია მოქმედებისათვის. ელოდება ადამიანის დამტკიცების ტოკენს და აშკარა პოლიტიკის შემოწმების გადალახვას ღონისძიების შექმნამდე.

მოქმედებელი: მომხმარებლის დამადასტურებელი ტოკენი X და გეგმაზომიერი Y, დაურეკეთ Calendar.CreateEvent ველებზე {start,end,attendees,summary} მხოლოდ მაშინ, როდესაც policy_check(policy_id:calendar_write) დაბრუნების შედეგი ზრდა. თუ policy_check უქმდება, დაუბრუნეთ ნეგატიური კოდი და ადამიანის საჭირო ქმედება.

შეკვეთილი წინააღმდეგობა იმაში მდგომარეობს, რომ მკაცრი კონტროლები ხელს უშლის მიღებას. ჩემი შეფასება ის არის, რომ როდესაც გუნდები ამ ნიმუშებს აძლევენ, ადრეულ მომხმარებელთა შენარჩუნება გაუმჯობესდება, რადგან ნდობა იზრდება, თუნდაც თავდაპირველი აქტივაცია უფრო ნელია. კომპრომისი აშკარად არის: სწრაფი დაწყება ამ კონტროლების გარეშე ქმნის ნაცნობ რისკსა და მაღალ რემედიულ ხარჯებს.