Tekoälyagentti: tulos ohjaa seuraavaa askelta

Tekoälyagentti (AI agent) käyttää mallia päättääkseen seuraavista toimista kohti tavoitetta. Se voi tutkia tulosta, valita työkalun, havaita tapahtuneen ja muuttaa seuraavaa toimintaansa. Olennainen ero on suorituksen ohjauksessa: osa tavallisesti ennalta ohjelmoiduista päätöksistä tehdään tehtävän aikana.

Koodausagentti voi esimerkiksi lukea tiedoston, muokata funktiota, ajaa testin ja valita seuraavan muutoksen testivirheen perusteella. Sen kyky syntyy mallista sekä sitä ympäröivistä työkaluista, kontekstista ja suoritusympäristöstä.

Silmukka, joka saa havaintoja

Malli saa tavoitteen ja nykyisen tilanteen. Se pyytää toimintoa tai palauttaa vastauksen. Ohjelmisto suorittaa sallitun työkalukutsun ja antaa tuloksen seuraavalle mallivuorolle. Tätä toistetaan, kunnes tehtävä valmistuu tai pysäytysehto täyttyy.

Virheilmoitus on hyödyllistä palautetta. Agentti voi muuttaa lähestymistapaansa, koska seuraava päätös riippuu uudesta havainnosta. Pelkkä mallikutsujen jono ei vielä osoita tällaista sopeutumista.

Mikä säilyy vuorojen välillä

Keskusteluhistoria, tiedostot, muistiinpanot ja ulkoiset tietovarastot voivat säilyttää tilaa. Mallin painot pysyvät tehtävän aikana yleensä muuttumattomina. Kontekstin hallinta määrää, mitkä osat tilasta tulevat seuraavaan mallikutsuun.

Agentti voi käyttää yhteen tehtävään monta kutsua, joten askelrajat, aikarajat ja selvät valmistumisen tarkistukset ovat tarpeellisia. Silmukan päättyminen ei tarkoita tavoitteen saavuttamista: tulos tarvitsee näytön, kuten läpäistyn testin tai tarkistetun tallennetun tiedoston.