Orkestrointi

Agenttien orkestrointi

Kun agentteja on useampi, ratkaiseva kysymys ei ole miten kukin niistä toimii vaan miten työ siirtyy niiden välillä: mikä käynnistää mitäkin, mitä tietoa siirtyy mukana ja mitä tapahtuu kun jokin epäonnistuu.

Lyhyt vastaus

Orkestrointi tarkoittaa agenttien välisen työnjaon, käynnistysehtojen ja tiedonsiirron määrittelyä. Kolme päätettävää asiaa ovat trigger (mikä käynnistää agentin), handoff (mitä tietoa siirtyy seuraavalle ja missä muodossa) ja virhepolku (mitä tapahtuu kun askel epäonnistuu). Useimmissa yrityksissä riittää kiinteä ketju; dynaaminen orkestrointi, jossa agentti valitsee seuraavan agentin, kannattaa vasta kun työnjako ei ole ennakoitavissa.

Mitä orkestrointi tarkoittaa

Yksittäinen agentti vie yhden tehtävän läpi. Orkestrointi on se kerros, joka päättää mitä agentteja käytetään, missä järjestyksessä ja mitä tietoa ne saavat toisiltaan.

Ero roolijakoon on tärkeä. Roolijako vastaa kysymykseen kuka tekee mitä. Orkestrointi vastaa kysymykseen miten työ liikkuu. Roolit voivat olla täysin kunnossa ja kokonaisuus silti toimimaton, jos siirtymät on jätetty määrittelemättä.

Suurin osa moniagenttiratkaisujen ongelmista syntyy juuri siirtymissä, ei itse agenteissa: tieto katoaa välissä, sama työ tehdään kahdesti, tai ketju jää pyörimään koska kukaan ei määritellyt milloin se päättyy.

Kolme orkestrointimallia

Mallin valinta ratkaisee, kuinka paljon työtä orkestrointi vaatii ja kuinka ennakoitava lopputulos on.

MalliMiten toimiiSopii kunRiski
Kiinteä ketjuAgentit suoritetaan aina samassa järjestyksessä.Työvaiheet ovat samat joka kerta.Ei jousta poikkeustapauksissa.
Ehdollinen haarautuminenSeuraava askel valitaan säännön perusteella.Tapauksia on muutama tunnistettava tyyppi.Säännöt kasvavat ylläpidettäväksi viidakoksi.
Dynaaminen valintaOhjaava agentti päättää mitä agenttia kutsutaan seuraavaksi.Työnjakoa ei voi ennakoida etukäteen.Kallis, hidas ja vaikea toistaa samanlaisena.
Käytännön suositus
  • Aloita kiinteästä ketjusta, vaikka se kattaisi vain 80 % tapauksista.
  • Loput 20 % eskaloidaan ihmiselle — se on halvempaa kuin dynaaminen malli.
  • Siirry monimutkaisempaan malliin vasta kun eskalaatioiden määrä osoittaa sen välttämättömäksi.

Triggerit: mikä käynnistää agentin

Jokaisella agentilla on oltava täsmällinen käynnistysehto. Epämääräinen trigger johtaa joko siihen että agentti ei käynnisty koskaan, tai siihen että se käynnistyy jatkuvasti turhaan.

TriggerityyppiEsimerkkiHuomioitavaa
TapahtumaUusi tiketti saapuu jonoonEnnakoitavin; suositeltava oletus
AikatauluJoka arkiaamu klo 7Varmista ettei ed. ajo ole kesken
Edellisen valmistuminenTarkistaja käynnistyy kun tuottaja on valmisTarvitsee aikakatkaisun
Ihmisen pyyntöKäyttäjä painaa nappiaHelpoin aloittaa, ei skaalaudu

Jokaiseen triggeriin kuuluu myös vastakysymys: milloin agentin ei pidä käynnistyä. Ilman tätä rajausta sama tapaus käsitellään helposti kahdesti.

Handoff: mitä siirtyy seuraavalle

Handoff on orkestroinnin kriittisin kohta. Kun agentti antaa työn seuraavalle, mukana pitää kulkea riittävä tieto — mutta ei enempää.

Liian vähän tietoa tarkoittaa, että seuraava agentti täyttää aukot arvaamalla. Liikaa tietoa tarkoittaa, että olennainen huku ja kustannus kasvaa turhaan.

Toimivan handoffin sisältö
  • Tehtävä: mitä seuraavan pitää tehdä, yhdellä lauseella.
  • Aineisto: vain se tieto, jota tehtävä vaatii, lähteineen.
  • Epävarmuudet: mitä ei löytynyt tai mistä edellinen ei ollut varma.
  • Kriteerit: millä perusteella lopputulos on hyväksyttävä.

Epävarmuuksien siirtäminen on se kohta, joka useimmin puuttuu. Jos edellinen askel ei kerro mistä se oli epävarma, seuraava käsittelee kaiken yhtä varmana — ja virhe vahvistuu ketjun jokaisessa vaiheessa.

Virhetilanteet

Ketju, jolle ei ole määritelty virhepolkua, epäonnistuu hiljaa. Se on pahin vaihtoehto, koska kukaan ei huomaa mitään ennen kuin lopputulos on jo käytössä.

Aikakatkaisu jokaiseen askeleeseen

Jos agentti ei palauta tulosta sovitussa ajassa, ketju pysäytetään ja tapaus siirtyy ihmiselle. Ilman tätä ketju voi jäädä odottamaan loputtomiin.

Yksi uudelleenyritys, ei enempää

Tilapäiset häiriöt korjaantuvat yhdellä uudelleenyrityksellä. Jos toinenkin epäonnistuu, vika on ohjeistuksessa tai aineistossa — kolmas yritys ei auta, se vain maksaa.

Selkeä eskalaatiokohde

Epäonnistunut tapaus menee nimetylle ihmiselle, ei yleiseen jonoon. Yleiseen jonoon menevä virhe jää käsittelemättä.

Osittaisen tuloksen säilytys

Kun ketju katkeaa kolmannessa vaiheessa, kahden ensimmäisen työ ei saa kadota. Ihmisen pitää nähdä mihin asti päästiin.

Milloin orkestrointia ei kannata tehdä

Orkestrointi lisää aina monimutkaisuutta, viivettä ja kustannusta. Se kannattaa vain, jos jako useaan agenttiin tuottaa jotain, jota yksi agentti ei tuota.

Älä orkestroi jos
  • Yksi agentti selviää tehtävästä hyväksyttävällä laadulla.
  • Jako on tehty vain siksi, että se kuulostaa järjestelmällisemmältä.
  • Agenteilla ei ole omia laatukriteerejä eikä omia oikeustarpeita — silloin ne ovat sama agentti eri nimellä.
  • Ketjun kokonaisviive tekee lopputuloksesta liian hitaan käyttötarkoitukseen.

Usein kysytyt kysymykset

Mitä agenttien orkestrointi tarkoittaa?

Orkestrointi on se kerros, joka määrittää mitä agentteja käytetään, missä järjestyksessä, mikä kunkin käynnistää ja mitä tietoa niiden välillä siirtyy. Roolijako vastaa kysymykseen kuka tekee mitä; orkestrointi vastaa kysymykseen miten työ liikkuu.

Mikä orkestrointimalli kannattaa valita?

Aloita kiinteästä ketjusta, jossa agentit suoritetaan aina samassa järjestyksessä — vaikka se kattaisi vain 80 % tapauksista. Loput eskaloidaan ihmiselle. Dynaaminen malli, jossa ohjaava agentti valitsee seuraavan, kannattaa vasta kun työnjakoa ei voi ennakoida.

Mitä handoffissa pitää siirtää?

Neljä asiaa: tehtävä yhdellä lauseella, vain tarvittava aineisto lähteineen, edellisen askeleen epävarmuudet ja hyväksymiskriteerit. Epävarmuuksien siirtäminen puuttuu useimmin — ilman sitä virhe vahvistuu ketjun jokaisessa vaiheessa.

Mitä tehdä kun yksi agentti epäonnistuu ketjussa?

Jokaisella askeleella on aikakatkaisu ja yksi uudelleenyritys. Jos toinenkin yritys epäonnistuu, tapaus siirtyy nimetylle ihmiselle, ei yleiseen jonoon. Osittainen tulos säilytetään, jotta ihminen näkee mihin asti päästiin.

Milloin orkestrointia ei kannata tehdä?

Kun yksi agentti selviää tehtävästä hyväksyttävällä laadulla, tai kun jaetuilla agenteilla ei ole omia laatukriteerejä eikä omia oikeustarpeita. Silloin ne ovat sama agentti eri nimellä, ja jako lisää vain viivettä ja kustannusta.

Aloita kiinteästä ketjusta

Kaksi agenttia, yksi järjestys, yksi eskalaatiokohde. Se ratkaisee enemmän kuin monimutkainen malli, jota kukaan ei pysty seuraamaan.

Katso yrityksen näkökulma