Keskustelubotti: keskustelu elää painojen ulkopuolella

Keskustelubotti (chatbot) on keskusteleva sovellus. Käyttöliittymä voi näyttää vuoropuhelulta yhden pysyvän osallistujan kanssa, vaikka kukin mallikutsu käsittelee sovelluksen valitseman historian sisältävän syötteen.

Kielimalli voidaan kouluttaa avustajan toimintaan, mutta ympäröivä sovellus hallitsee viestejä, työkaluja ja mahdollista pitkäkestoista muistia.

Kolme erilaista muistia

Mallin painot sisältävät koulutuksessa opittuja säännönmukaisuuksia. Keskustelukonteksti sisältää nykyisen laskennan käytettävissä olevat viestit. Hakumuisti voi säilyttää tietoa, jota valitaan myöhemmin lisättäväksi kontekstiin.

Viestin poistaminen seuraavasta pyynnöstä muuttaa käytettävissä olevaa kontekstia, ei painoja. Keskustelun tallentaminen tietokantaan ei myöskään automaattisesti tuo sitä mallin nähtäväksi.

Keskustelun kasvaessa sovellus voi säilyttää koko historian, tiivistää sen tai hakea valittuja osia. Valinnat muuttavat jatkuvuutta, viivettä ja resurssien käyttöä. Keskustelukäyttöliittymä piilottaa tämän kontekstinhallintatyön mutta ei poista sitä.