Työkalukutsut: malli pyytää, ohjelmisto suorittaa

Työkalukutsu (tool calling, function calling) antaa kielimallille mahdollisuuden pyytää operaatiota rakenteisen rajapinnan kautta. Malli saa työkalujen kuvaukset ja argumenttien skeemat. Se voi palauttaa työkalun nimen ja argumentit lopullisen vastauksen sijaan.

Sovelluksen määrittelemässä työkalussa ympäröivä ohjelmisto suorittaa funktion ja palauttaa tuloksen keskusteluun. Malli voi käyttää tulosta vastaamiseen tai pyytää uutta operaatiota. Osa palveluntarjoajista tarjoaa myös omassa palvelussaan suoritettavia työkaluja.

Missä raja kulkee

Käyttäjä voi pyytää huoneen lämpötilaa. Malli saattaa pyytää työkalua read_temperature argumentilla room: "office". Sovelluskoodi tarkistaa pyynnön, lukee anturin ja palauttaa arvon, esimerkiksi 21.4. Seuraavalla vuorolla malli voi kertoa havainnosta käyttäjälle.

Tuotetut argumentit ovat pyyntö suorittaa koodia, eivät todiste sen suorittamisesta. Oikealta näyttävä JSON-olio ei osoita suoritusta eikä onnistumista. Todellinen työkalutulos tuo puuttuvan havainnon.

Rajapinta muovaa mallin mahdollisuuksia

Selkeät nimet, kuvaukset ja skeemat auttavat mallia valitsemaan hyödyllisen operaation. Skeema rajaa pyynnön muotoa; sovellus hallitsee silti oikeuksia ja tarkistaa, onko operaatio mielekäs. Tarkka virheilmoitus antaa mallille mahdollisuuden korjata seuraavaa pyyntöä.

Työkalukutsu voi kuulua yhteen vastaukseen tai toistuvaan agenttisilmukkaan. RAG antaa haettua lähdetietoa; työkalukutsu tarjoaa yleisemmän rajapinnan hakuun, laskentaan, tiedostoihin tai toimintoihin. Sovellus määrää käytettävissä olevat kyvyt.