Synteettinen aineisto: tuota esimerkkejä ja varmista niiden arvo

Synteettinen aineisto (synthetic data) tuotetaan generointiprosessilla sen sijaan, että se kerättäisiin alkuperäisinä havaintoina. Kielimallin koulutukseen toinen malli voi tuottaa ohjeita, vastauksia, selityksiä tai harjoituksia. Simulaattorit ja ohjelmalliset generaattorit tuottavat muunlaisia esimerkkejä.

Hyöty on hallittavuudessa: generaattori voi kohdistua puuttuviin tapauksiin, vaihdella muotoja tai tuottaa paljon esimerkkejä harvinaisesta taidosta. Vaikea kysymys on, sisältävätkö esimerkit oikean oppimissignaalin.

Tuottaminen ei ole tarkistamista

Self-Instruct tuotti ohje-esimerkkejä ja suodatti virheellisiä tai liian samanlaisia ehdokkaita ennen hienosäätöä. Textbooks Are All You Need yhdisti valittua verkkoaineistoa tuotettuun opetussisältöön ja harjoituksiin. Ne ovat esimerkkejä rakennetuista aineistoputkista, eivät todiste jokaisen tuotetun vastauksen luotettavuudesta.

Koodiesimerkkiä voidaan tarkistaa riippumattomilla testeillä. Tosiasiavastaus tarvitsee näyttöä generaattorin oman väitteen toistamisen lisäksi. Sujuvassakin selityksessä voi olla väärä välivaihe.

Toisto voi kaventaa jakaumaa

Koulutusmateriaalin toistuva korvaaminen mallin näytteillä voi kadottaa harvinaisia kuvioita ja vahvistaa virheitä. Mallin romahdusta (model collapse) koskeva tutkimus käsittelee tällaisia palautesilmukoita. Tulos riippuu aineistoseoksesta, suodatuksesta ja koulutusprosessista; kaikki synteettinen aineisto ei siten ole haitallista.

Hyödyllinen työ säilyttää alkuperätiedot, tarkistaa monipuolisuuden ja arvioi materiaalilla, jota sama putki ei tuottanut. Muuten parannus voi johtua vain arvioinnin jakamista generaattorin tavoista.

Mallin tislaus käyttää myös toisen mallin signaaleja koulutuksessa. Synteettinen aineisto kertoo esimerkkien alkuperästä eikä yksin määrää, miten oppilas niistä oppii.