Ajatusketju: välivaiheet seuraavan askeleen kontekstina

Ajatusketju (chain of thought, CoT) on ennen vastausta tuotettu päättelyn välivaiheiden jono. Malli voi käyttää vaiheita seuraavien tuotostensa kontekstina. Laskutehtävä voidaan esimerkiksi jakaa välituloksiin sen sijaan, että hypättäisiin suoraan lopulliseen lukuun.

Varhaisessa tutkimuksessa ratkaistuja välivaiheita sisältävät esimerkit paransivat suoritusta laskennallisissa, symbolisissa ja arkijärkeä vaativissa tehtävissä. Toisessa tutkimuksessa vaiheittaisia vastauksia saatiin lyhyellä ohjeella valmiiden esimerkkien sijaan. Hyöty riippuu mallista ja tehtävästä.

Lisägenerointi muuttaa laskentaa

Autoregressiivinen malli käsittelee tuotettuja välivaiheiden tokeneita kuten muitakin jatkon tokeneita. Vaiheet vaativat lisää generointilaskentaa ja vievät kontekstia. Pidempi työmuistiteksti antaa mallille enemmän peräkkäistä laskentaa, mutta myös enemmän mahdollisuuksia virheellisen välituloksen leviämiselle myöhempiin vaiheisiin.

Näin päättely voi muuttaa nopean syötteen käsittelyn ja toistuvan generoinnin tasapainoa. Vaiheita avaavat prefill ja autoregressiivinen generointi.

Hyödyllinenkin johtaminen tarkistetaan

Kirjoitettu selitys on tuotettua tekstiä, ei suora näkymä ennusteen jokaiseen sisäiseen syyhyn. Tutkimuksessa on osoitettu tapauksia, joissa selitys jättää mainitsematta vastaukseen vaikuttaneita tekijöitä.

Tarkistettavassa tehtävässä tutki tulosta ja olennaisia vaiheita: sijoita laskettu arvo takaisin, aja koodi tai tarkista lähdeaineisto. Päättelyvaiheet voivat auttaa mallia ratkaisemaan tehtävän ja lukijaa seuraamaan ratkaisua. Niiden pituus tai sujuvuus ei yksin osoita oikeellisuutta.