Agenttiset avustajat: turvalliset kalenteri- ja Gmail-integraatiot

Väitteeni: turvallisten, käytettävien agenttisten avustajien rakentaminen, jotka toimivat kalentereissa, Gmailissa ja liitetyissä sovelluksissa, vaatii lupapohjaisen ajonaikaisen suunnittelun, suunnittelun ja toiminnan erottamisen sekä tarkastus- ja palautusprosessien sisällyttämisen suorituskerrokseen alusta alkaen. Tämä artikkeli tarjoaa tiukan insinöörilistauksen ja toimintakelpoisia ohjeita tähän pääsemiseksi.

LUPIEN SUUNNITTELU AGENTTISTEILLE AVUSTAJILLE

Aloita käyttäjäkohtaisella OAuthilla ja minimilupasovelluksilla. Käytä käyttäjäkohtaisia OAuthia sen sijaan, että käyttäisit jaettua palvelutiliä, paitsi jos järjestelmänvalvoja erityisesti vaatii verkkotunnuksen delegointia. Googlen dokumentaatio yksityiskohtaisista sovelluksista on perusta; kartoitukselle jokainen agentin kyky yhdelle OAuth-sovellukselle ja dokumentoi sen suunnan ihmisluettavissa muodoissa. Pidä tokenit eristyksissä kehotteista. Tallenna ne holviin ja injektoi käyttöoikeudet vain kutsuajan sisällä suoritettavassa palvelussa, joka valvoo politiikkaa.

Olemme havainneet, että tiimit, jotka käsittelevät lupia tuotteen UX:nä, selkeiden suostumusnäyttöjen ja lupan esikatselujen kanssa, saavat huomattavasti vähemmän tukipyynnöitä. Yksi kohta, johon törmäsimme, on tokenien yleistyminen naiveista uudistustavoista; keskity yhdistelemään uudistus ja vaihda uudistustokenit säännöllisesti.

SUUNNITTELU VERRATTUNA TOIMIMISEEN

Jaa avustaja suunnittelijaksi ja toimijaksi. Suunnittelija tuottaa erillisen toimintasuunnitelman: lue äskettäin viestityt keskustelut, ehdota kahta kokousaikaa, laadi luonnos sähköpostille. Toimija suorittaa vain politiikan tarkistuksen jälkeen ja, herkissä toimissa, ihmisen vahvistusvaiheen jälkeen. Tämä malli estää mallia improvisoimasta etuoikeutettuja toimintoja ja tekee valtuutuksen auditoitavaksi.

Käytännöllinen kompromissi: pidempi viive ihmisen hyväksynnälle vastaan matalampi riski. Monille kalenteri- ja sähköpostitoimille 30-60 sekunnin ihmisen mukanaolon tauko on hyväksyttävä. Korkean taajuuden tehtävissä ryhmähyväksynnät toimivat paremmin kuin per-toiminto napsautukset.

TESTIT, LOKIT JA PALAUTTAMINEN

Jokaisen toimenpiteen on tuotettava muuttumaton tarkastusmerkintä, joka sisältää pyydetyn aikomuksen, suunnittelijan tuloksen, politiikkapäätöksen, toimijakutsun ja palautetun API-vastauksen. Pidä toistettava komentoformaatti, jotta voit toistaa ja peruuttaa. Tarjoa yhden napsautuksen peruutus viimeisille N toimille ja palautusprosessi, joka luo korvaavia tapahtumia, esimerkiksi tapahtuman peruminen ja korjaavan seurantaviestinnän lähettäminen.

Olemme havainneet, että kehotetason valvontaa epäonnistuu ilman ulkoista politiikkaa. Käytännössä mallit ehdottavat muutoksia, jotka näyttävät uskottavilta, mutta rikkoo politiikkaa. Suoritusportti, joka kieltäytyy kaikista kirjoituksista, kun luottamus on alle kalibroidun kynnyksen, vähentää näitä tapauksia.

TUOTTEEN JA INSINÖÖRIN TARKISTUSLISTA

1. Käyttäjäkohtainen OAuth, jossa on minimaliset sovellukset ja selkeä suostumus. 2. Token-holvi ja suoritettavissa oleva palvelu, joka injektoi käyttöoikeudet ajonaikaisesti. 3. Suunnittelijan/toimijan erottaminen politiikkatarkistuksilla. 4. Ihmisen mukanaoloon perustuva nostaminen herkille toimenpiteille. 5. Muuttumattomat tarkastuspöytäkirjat ja toistettavat toimintamuodot. 6. Palautus- ja korvausprosessit selkeillä UI-rakenteilla.

Linkitä tuotteen UX kuvattuihin työnkulkujen malleihin Ihmisen ja AI:n työnkulkujen suunnittelu ja käytä opasta agenttien eroista AI-agentit vs chatbottit oikeuttaaksesi suunnittelijan/toimijan jakautumisen.

Kokeile itse. Alla olevat kehotteet havainnollistavat suunnittelijan tuotoksia verrattuna toimijan turvallisiin ohjeisiin. Odota tiukkoja JSON-tyyppisiä suunnitelmia suunnittelijalta ja lyhyitä vahvistuksia toimijalta.

Tämä kehotus pyytää mallia tuottamaan rajoitettua ehdotuslistaa kokouksen ajoista ja peruste; käytä sitä suunnittelijana. Odota 2-3 ehdokasvaihtoehtoa ja yhden lauseen perustetta.

Olet kokoussuunnittelija. Käyttäjällä on tänään 3 vapaata aikaa: 10:00, 14:30, 16:00. Palauta tarkalleen kolme ehdokaskokousaikaa ISO-muodossa yhdellä lauseen perusteella jokaiselle, ja yhdellä lauseen yksityisyysensiä, joka kertoo, koskevatko kutsut ulkoisia sähköposteja.

Tämä kehotus on toimijalle. Se odottaa ihmisen vahvistustokenia ja selkeää politiikkatarkistusta ennen tapahtuman luomista.

Toimija: käyttäjän vahvistustokenin X ja suunnittelun Y perusteella, kutsu Calendar.CreateEvent kentillä {start,end,attendees,summary} vain, jos policy_check(policy_id:calendar_write) palauttaa hyväksynnän. Jos policy_check epäonnistuu, palauta epäonnistumiskoodi ja tarvittava inhimillinen toiminta.

Vastaväite on, että tiukat kontrollit hidastavat käyttöönottoa. Arvioini mukaan, kun tiimit noudattavat näitä malleja, varhaisten käyttäjien pitäminen paranee, koska luottamusta kasvaa, vaikka alkuperäinen aktivointi olisikin hitaampaa. Kompromissi on selvä: nopeampi käyttöönotto ilman näitä kontrolloita luo mitattavaa riskiä ja korkeampia edellytyksien täyttämiskustannuksia.