Kontekstissa oppiminen: esimerkit muuttavat tätä pyyntöä

Kontekstissa oppiminen (in-context learning) antaa mallin sovittaa vastaustaan nykyiseen kontekstiin annettuihin ohjeisiin tai esimerkkeihin. Painot pysyvät samoina. Muuttuva asia on seuraavan tokenin laskennassa käytettävissä oleva tieto.

Muutama esimerkki voi määritellä muodon, luokkamerkinnät tai tehtävän. Ne voivat antaa juuri tätä pyyntöä varten valitun mielivaltaisen vastaavuuden, jota mallin ei tarvinnut muistaa esikoulutuksesta.

Anna sääntö esimerkkien kautta

Transformers/PyTorch-esimerkki antaa pienelle ohjeita seuraavalle mallille oman luokittelutavan: dax tarkoittaa myönteistä ja wug kielteistä arviota. Kehote antaa vastaavuuden; mallia ei hienosäädetä. Ensimmäinen ajo lataa mallin.

from transformers import pipeline

generate = pipeline("text-generation", model="HuggingFaceTB/SmolLM2-135M-Instruct")
prompt = """Use the labels demonstrated below. Return only the label.
Review: A thoughtful, engaging film. Label: dax
Review: Dull and badly acted. Label: wug
Review: I loved every minute. Label:"""
result = generate([{"role": "user", "content": prompt}],
                  max_new_tokens=8, do_sample=False)
label = result[0]["generated_text"][-1]["content"]

Vaihda molemmat esimerkkimerkinnät johdonmukaisesti ja säilytä viimeinen arvio samana. Esimerkkejä käyttävän mallin pitäisi muuttaa vastaustaan vastaavasti. Vertaa vastauksia ja tutki, seuraako malli uutta sopimusta.

Sovittuminen elää kontekstissa

Kehotteen esitykset ja attention-laskenta vaikuttavat tulokseen. Uusi pyyntö ilman esimerkkejä poistaa tämän tehtävätiedon lähteen, ellei sovellus anna sitä uudelleen.

Tutkimuksessa kontekstissa mukautuminen on yhdistetty oppimisalgoritmeihin rajatuissa asetelmissa. Se ei tarkoita tavallisen mallin ajon päivittävän salaa tallennettuja painoja.

Muutaman esimerkin kehote antaa esimerkkejä; hienosäätö muuttaa opetettavia parametreja. Kehotteen välimuisti voi käyttää toistuvien esimerkkien laskentaa uudelleen, mutta esimerkit vievät edelleen kontekstia.