Tekoälysanasto
101 tekoälyn termiä lyhyesti selitettyinä.
Kaikki termit
- AgenttiAgent
- AineistoDataset
- AktivointifunktioActivation function
- ArviointiEvaluation
- Asiantuntijaverkkojen yhdistelmä (MoE)Mixture of experts (MoE)
- Attention-mekanismiAttention
- Autoregressiivinen generointiAutoregressive generation
- Avoimet painotOpen weights
- DekoodausDecoding
- DekooderiDecoder
- DiffuusiomalliDiffusion model
- DropoutDropout
- EnkooderiEncoder
- EpookkiEpoch
- EräBatch
- EsikoulutusPretraining
- Eteenpäinkytketty verkko (FFN)Feed-forward network (FFN)
- Generatiivinen tekoälyGenerative AI
- GradienttiGradient
- GradienttimenetelmäGradient descent
- Grafiikkasuoritin (GPU)Graphics processing unit (GPU)
- Hakuavusteinen generointi (RAG)Retrieval-augmented generation (RAG)
- HallusinaatioHallucination
- HienosäätöFine-tuning
- HyperparametriHyperparameter
- HäviöLoss
- InferenssiInference
- Itseohjattu oppiminenSelf-supervised learning
- KehotePrompt
- Kehote ilman esimerkkejäZero-shot prompting
- KehoteinjektioPrompt injection
- Kehotteen välimuistitusPrompt caching
- KeilahakuBeam search
- KeskustelubottiChatbot
- Koneoppiminen (ML)Machine learning (ML)
- Konteksti-ikkunaContext window
- Kontekstissa oppiminenIn-context learning
- KoulutusTraining
- KoulutusaineistoTraining data
- KvantisointiQuantization
- KV-välimuistiKV cache
- LatenttiavaruusLatent space
- LogititLogits
- LoRALoRA
- LuokitteluClassification
- Luokittelutarkkuus (accuracy)Accuracy
- LämpötilaTemperature
- MalliModel
- Mallin tislausDistillation
- Model Context Protocol (MCP)Model Context Protocol (MCP)
- Multimodaalinen malliMultimodal model
- Muutaman esimerkin kehoteFew-shot prompting
- NeuroverkkoNeural network
- NormalisointiNormalization
- Ohjaamaton oppiminenUnsupervised learning
- Ohjattu oppiminenSupervised learning
- OhjehienosäätöInstruction tuning
- Ohjelmointirajapinta (API)API
- OppimisnopeusLearning rate
- OptimoijaOptimizer
- Parametrit ja painotParameters and weights
- PerpleksisyysPerplexity
- PerusmalliFoundation model
- Pieni kielimalli (SLM)Small language model (SLM)
- Päättelyketju (CoT)Chain of thought (CoT)
- PäättelymalliReasoning model
- RegressioRegression
- RegularisointiRegularization
- RistientropiaCross-entropy
- Saanti eli herkkyys (recall)Recall
- Siirto-oppiminenTransfer learning
- SijaintikoodausPositional encoding
- SoftmaxSoftmax
- Spekulatiivinen dekoodausSpeculative decoding
- Suuri kielimalli (LLM)Large language model (LLM)
- Synteettinen aineistoSynthetic data
- SyväoppiminenDeep learning
- Syötteen käsittely (prefill)Prefill
- TarkistuspisteCheckpoint
- Tekoäly (AI)Artificial intelligence (AI)
- Tekoälyn suuntaaminenAlignment
- TensoriTensor
- TokeniToken
- TokenisoijaTokenizer
- Top-k-otantaTop-k sampling
- Top-p-otantaTop-p sampling
- TransformerTransformer
- TyökalukutsuTool calling
- Täsmällisyys (precision)Precision
- UpotusEmbedding
- Vahvistusoppiminen (RL)Reinforcement learning (RL)
- Vahvistusoppiminen ihmispalautteesta (RLHF)Reinforcement learning from human feedback (RLHF)
- ValidointiaineistoValidation data
- Vastausten ankkurointiGrounding
- Vastavirta-algoritmiBackpropagation
- VektoritietokantaVector database
- VertailutestiBenchmark
- Vinouma ja vakiotermi (bias)Bias
- Visuaalinen kielimalli (VLM)Vision-language model (VLM)
- Yleinen tekoäly (AGI)Artificial general intelligence (AGI)
- YlisovittaminenOverfitting
AgenttiAgent
Järjestelmä, joka valitsee mallin avulla toimintoja, käyttää työkaluja ja etenee vaiheittain kohti tavoitetta.
AineistoDataset
Koulutuksessa tai arvioinnissa käytettävä esimerkkien kokoelma. Aineisto jaetaan usein eri tarkoituksiin, kuten koulutukseen ja validointiin.
AktivointifunktioActivation function
Kerroksen tuloksiin sovellettava funktio. Epälineaaristen aktivointifunktioiden ansiosta peräkkäiset kerrokset voivat kuvata riippuvuuksia, joita pelkkä lineaarinen verkko ei pysty esittämään.
ArviointiEvaluation
Mallin toiminnan mittaaminen valituissa tehtävissä laskennallisilla mittareilla, ihmisten arvioilla tai molemmilla. Koeasetelma ratkaisee, mitä tuloksesta voidaan päätellä.
Lähde: Hugging Face: Evaluate
Asiantuntijaverkkojen yhdistelmä (MoE)Mixture of experts (MoE)
Arkkitehtuuri, joka ohjaa syötteet valituille asiantuntijaverkoille. Mallin parametrien kokonaismäärä voi olla paljon suurempi kuin yhtä tokenia käsiteltäessä käytetty määrä.
Attention-mekanismiAttention
Operaatio, joka yhdistää eri sijaintien tietoa opittujen painotusten avulla. Self-attentionissa yhteyksiä lasketaan saman sekvenssin sijaintien välillä.
Lähde: Attention Is All You Need
Autoregressiivinen generointiAutoregressive generation
Sekvenssin tuottaminen askel kerrallaan siten, että jokainen uusi tokeni riippuu edeltävistä tokeneista.
Avoimet painotOpen weights
Mallin painot ovat ladattavissa ja paikallisesti käytettävissä ilmoitetun lisenssin ehdoin. Pelkkä painojen saatavuus ei tee koko järjestelmästä avointa lähdekoodia.
DekoodausDecoding
Menetelmä, jolla mallin ennustamista todennäköisyyksistä valitaan tuotettavat tokenit, esimerkiksi todennäköisimmän vaihtoehdon valinta tai satunnaisotanta.
DekooderiDecoder
Verkon osa, joka muuntaa esityksiä tuloksiksi. Autoregressiivinen Transformer-dekooderi ennustaa uusia tokeneja edeltävän kontekstin perusteella.
DiffuusiomalliDiffusion model
Generatiivinen malli, joka oppii kumoamaan kohinan lisäämisen vaikutuksen. Sisältöä tuotettaessa kohinaa muokataan tyypillisesti vaiheittain rakenteiseksi tulokseksi.
DropoutDropout
Osan aktivaatioista satunnainen nollaaminen koulutuksen aikana ylisovittamisen vähentämiseksi. Tavallisessa inferenssissä tätä satunnaista nollausta ei käytetä.
Lähde: Keras: Dropout
EnkooderiEncoder
Verkon osa, joka muuntaa syötteen esityksiksi. Tekstiä käsittelevän Transformer-enkooderin attention-mekanismi voi yleensä hyödyntää sekä aiempia että myöhempiä sijainteja.
EpookkiEpoch
Koulutusaineiston yksi läpikäynti. Suoratoistettavaa tai toistuvaa aineistoa käytettäessä epookki voidaan määritellä myös kiinteänä koulutusaskelten määränä.
EräBatch
Yhdessä käsiteltävien esimerkkien joukko. Eräkoko vaikuttaa koulutuksen laskentatehokkuuteen, muistinkäyttöön ja gradienttiarvioon.
EsikoulutusPretraining
Mallin ensimmäinen laaja koulutusvaihe, jossa se oppii yleisiä kykyjä ennen kohdennetumpaa jatkokoulutusta.
Eteenpäinkytketty verkko (FFN)Feed-forward network (FFN)
Verkko, jossa tieto etenee ilman takaisinkytkentöjä. Transformer-lohkoissa tällaista verkkoa sovelletaan tyypillisesti erikseen kuhunkin tokenin sijaintiin.
Generatiivinen tekoälyGenerative AI
Tekoäly, joka tuottaa esimerkiksi tekstiä, kuvia tai ääntä koulutuksessa opittujen säännönmukaisuuksien perusteella.
GradienttiGradient
Osittaisderivaattojen vektori, joka kertoo, miten skalaarisuure, esimerkiksi häviö, muuttuu kunkin parametrin suhteen.
GradienttimenetelmäGradient descent
Optimointimenetelmä, jossa parametreja päivitetään häviön gradientille vastakkaiseen suuntaan. Päivityksen suuruutta säädetään oppimisnopeudella.
Grafiikkasuoritin (GPU)Graphics processing unit (GPU)
Rinnakkaiseen laskentaan suunniteltu suoritin. Neuroverkot hyödyntävät grafiikkasuorittimia esimerkiksi matriisikertolaskuissa koulutuksen ja inferenssin aikana.
Hakuavusteinen generointi (RAG)Retrieval-augmented generation (RAG)
Tehtävään liittyvien tietojen hakeminen ja antaminen mallille vastauksen tuottamisen tueksi. Haettuja dokumentteja ei tarvitse sisällyttää mallin painoihin.
HallusinaatioHallucination
Mallin tuottama virheellinen väite tai sisältö, jolle annetut tiedot eivät anna tukea. Esitystapa voi silti olla sujuva ja vakuuttava.
HienosäätöFine-tuning
Olemassa olevan mallin jatkokoulutus valitulla aineistolla sen toiminnan tai kykyjen mukauttamiseksi.
HyperparametriHyperparameter
Mallin tai koulutuksen asetus, kuten kerrosmäärä tai oppimisnopeus. Sitä ei opita samalla tavoin kuin mallin tavallisia parametreja.
Lähde: Google: ML Fundamentals
HäviöLoss
Mallin koulutuksessa minimoitava numeerinen tavoite. Pienempi häviö tarkoittaa parempaa tulosta kyseisessä tavoitteessa, ei välttämättä kaikissa tehtävissä.
InferenssiInference
Koulutetun mallin ajaminen ennusteiden tai muiden tulosten tuottamiseksi. Tavallisessa inferenssissä mallin opittuja parametreja ei päivitetä.
Itseohjattu oppiminenSelf-supervised learning
Oppiminen tehtävistä, joiden tavoitevastaukset johdetaan aineistosta itsestään, kuten tekstin seuraavan tokenin ennustamisesta. Jokaista esimerkkiä ei tarvitse merkitä käsin.
KehotePrompt
Mallille annettava syöte, joka voi sisältää ohjeita, esimerkkejä tai tehtävässä tarvittavaa aineistoa. Sovellus voi koostaa kehotteen useista lähteistä.
Kehote ilman esimerkkejäZero-shot prompting
Mallia pyydetään suorittamaan tehtävä antamatta kehotteessa esimerkkejä sen suorittamisesta.
KehoteinjektioPrompt injection
Yritys ohjata tekoälyjärjestelmän toimintaa hyökkääjän ohjeilla. Ohjeet voivat olla piilotettuina esimerkiksi järjestelmän käsittelemiin dokumentteihin tai työkalujen tuloksiin.
Lähde: Anthropic: Prompt injections
Kehotteen välimuistitusPrompt caching
Aiemmin lasketun tilan käyttäminen uudelleen, kun eri pyynnöillä on sama syötteen alkuosa. Näin vältetään toistuvaa syötteen käsittelyä.
Lähde: Anthropic: Prompt caching
KeilahakuBeam search
Dekoodausmenetelmä, joka säilyttää kussakin vaiheessa useita sekvenssiehdokkaita ja vertailee niiden jatkoja pisteytyssäännön avulla.
KeskustelubottiChatbot
Keskustelukäyttöliittymän tarjoava sovellus. Se voi käyttää kielimallia, mutta keskustelukyky ei itsessään tarkoita itsenäistä toimintaa.
Koneoppiminen (ML)Machine learning (ML)
Menetelmiä, joissa opitaan säännönmukaisuuksia tai päätössääntöjä aineistosta sen sijaan, että jokainen sääntö ohjelmoitaisiin erikseen.
Konteksti-ikkunaContext window
Yhdellä pyynnöllä käsiteltävän sekvenssin enimmäispituus, yleensä tokeneina mitattuna. Syöte ja tuotettavat tokenit käyttävät samaa tilaa.
Kontekstissa oppiminenIn-context learning
Tehtävään mukautuminen kontekstissa annettujen ohjeiden tai esimerkkien perusteella ilman mallin painojen muuttamista.
KoulutusTraining
Mallin parametrien päivittäminen aineiston ja optimointitavoitteen perusteella. Tässä vaiheessa malli oppii; inferenssissä sitä käytetään tulosten tuottamiseen.
KoulutusaineistoTraining data
Esimerkit, joiden avulla mallin parametreja päivitetään. Hyvä tulos koulutusaineistolla ei yksin osoita, että malli toimii hyvin myös uudella aineistolla.
KvantisointiQuantization
Painojen tai aktivaatioiden esittäminen pienemmällä bittimäärällä muistin ja mahdollisesti laskennan säästämiseksi. Mallin tarkkuus voi muuttua. Kokeile selainmalliamme.
Lähde: Hugging Face: Quantization
KV-välimuistiKV cache
Attention-mekanismin tallennetut avain- ja arvotensorit. Niiden uudelleenkäyttö säästää aiempien tokenien tensorien laskemisen uudelleen generoinnin aikana. Lue muistin merkityksestä.
LatenttiavaruusLatent space
Aineiston opittujen esitysten avaruus. Latentti diffuusiomalli tuottaa esityksen tässä avaruudessa, minkä jälkeen se dekoodataan kuvaksi.
LogititLogits
Mallin tuottamat pisteet ennen niiden muuntamista todennäköisyyksiksi. Kielimalli antaa pisteen jokaiselle mahdolliselle seuraavalle tokenille.
Lähde: PyTorch: Softmax
LoRALoRA
Hienosäätömenetelmä, jossa koulutetaan pieniä lisämatriiseja ja pidetään alkuperäiset painot muuttumattomina. Näin koulutettavia parametreja tarvitaan vähemmän.
Lähde: Hugging Face: LoRA
LuokitteluClassification
Luokan tai usean luokan ennustaminen, esimerkiksi viestin tunnistaminen roskapostiksi. Regressiossa ennustetaan sen sijaan lukuarvoa.
Luokittelutarkkuus (accuracy)Accuracy
Oikeiden ennusteiden osuus kaikista ennusteista. Hyvä kokonaistulos voi peittää sen, että malli tunnistaa harvinaiset luokat huonosti.
LämpötilaTemperature
Asetus, joka muuttaa tokenien todennäköisyysjakaumaa ennen otantaa. Pieni arvo painottaa todennäköisimpiä vaihtoehtoja, suuri arvo tasoittaa jakaumaa.
MalliModel
Laskennallinen rakenne, joka tuottaa syötteistä ennusteita tai muita tuloksia opittujen parametrien avulla. Keskustelubotti tai agentti on mallia hyödyntävä sovellus.
Mallin tislausDistillation
Oppilasmallin kouluttaminen opettajamallin tulosten tai sisäisten esitysten avulla. Tavoitteena on usein siirtää kykyjä pienempään malliin.
Model Context Protocol (MCP)Model Context Protocol (MCP)
Protokolla, jolla tekoälysovellukset yhdistetään ulkoisiin työkaluihin, tietolähteisiin ja uudelleenkäytettäviin kehotteisiin palvelinten välityksellä.
Multimodaalinen malliMultimodal model
Malli, joka käsittelee useita aineistotyyppejä, esimerkiksi tekstiä ja kuvia. Tuetut syöte- ja tulostyypit voivat olla erilaisia.
Muutaman esimerkin kehoteFew-shot prompting
Mallille annetaan kehotteessa muutama esimerkki halutusta tehtävästä. Mallin painoja ei muuteta.
NeuroverkkoNeural network
Malli, joka koostuu toisiinsa liitetyistä laskentakerroksista. Opitut parametrit ohjaavat sitä, miten syöte muuntuu väliesityksiksi ja lopulliseksi tulokseksi.
Lähde: Attention Is All You Need
NormalisointiNormalization
Arvojen skaalaaminen niiden lukuvälin tai tilastollisten ominaisuuksien hallitsemiseksi. Kerrosnormalisointi käsittelee kunkin esimerkin aktivaatioita erikseen, ei koko erää yhdessä.
Lähde: Layer Normalization
Ohjaamaton oppiminenUnsupervised learning
Rakenteen oppiminen aineistosta ilman annettuja tavoitevastauksia, esimerkiksi samankaltaisten esimerkkien ryhmittely klustereiksi.
Ohjattu oppiminenSupervised learning
Oppiminen esimerkeistä, joihin on liitetty tavoitevastaukset, kuten kuvien luokat tai kehotteisiin halutut vastaukset.
Lähde: Google: ML Fundamentals
OhjehienosäätöInstruction tuning
Hienosäätö aineistolla, joka sisältää ohjeita ja niihin haluttuja vastauksia. Näin malli oppii noudattamaan erilaisia pyyntöjä.
Ohjelmointirajapinta (API)API
Rajapinta, jonka kautta ohjelmistot käyttävät toistensa toimintoja. Tekoälyrajapinta voi vastaanottaa kehotteita ja palauttaa mallin tuottamia vastauksia.
Lähde: MDN: API
OppimisnopeusLearning rate
Koulutuksen asetus, joka säätelee parametripäivitysten suuruutta. Sitä voidaan muuttaa koulutuksen aikana ennalta määrätyn aikataulun mukaan.
OptimoijaOptimizer
Algoritmi, kuten Adam, joka päivittää mallin parametreja gradienttien ja omien päivityssääntöjensä perusteella.
Parametrit ja painotParameters and weights
Mallin koulutuksessa opitut lukuarvot. Painot ovat parametreja; parametrimäärä kuvaa mallin kokoa, ei älykkyyttä.
PerpleksisyysPerplexity
Kielimallin arviointimittari: e korotettuna havaittujen tokenien keskimääräisen negatiivisen log-todennäköisyyden potenssiin. Pienempi arvo tarkoittaa parempaa ennustetta samalla aineistolla ja tokenisoinnilla.
Lähde: Hugging Face: Perplexity
PerusmalliFoundation model
Laajalla aineistolla koulutettu malli, joka toimii lähtökohtana moniin tehtäviin tai sovelluksiin.
Pieni kielimalli (SLM)Small language model (SLM)
Valittuun resurssibudjettiin mahtuva kielimalli. Kuten suuren kielimallin, pienenkään kielimallin koolle ei ole kiinteää parametrirajaa. Rakenna malli kanssamme.
Päättelyketju (CoT)Chain of thought (CoT)
Ennen lopullista vastausta tuotetut päättelyn välivaiheet. Niiden tuottaminen voi parantaa tuloksia tehtävissä, jotka vaativat useita päätelmiä.
Lähde: Chain-of-Thought Prompting
PäättelymalliReasoning model
Malli, joka on koulutettu ratkaisemaan tehtäviä päättelyn välivaiheiden avulla. Se tuottaa usein näitä vaiheita ennen lopullista vastausta.
RegressioRegression
Lukuarvon, esimerkiksi lämpötilan tai asunnon hinnan, ennustaminen luokan valitsemisen sijaan.
RegularisointiRegularization
Menetelmiä ylisovittamisen vähentämiseksi, esimerkiksi suurten painojen rajoittaminen häviöön lisättävällä termillä tai dropout koulutuksen aikana.
Lähde: Keras: Regularizers
RistientropiaCross-entropy
Häviö, joka kasvaa, kun malli antaa oikealle tavoitetulokselle pienen todennäköisyyden. Seuraavaa tokenia ennustavia malleja koulutetaan usein minimoimalla tätä häviötä.
Lähde: PyTorch: CrossEntropyLoss
Saanti eli herkkyys (recall)Recall
Kaikista todella positiivisista tapauksista mallin tunnistama osuus. Suuri arvo tarkoittaa, että vain harvat positiiviset tapaukset jäävät tunnistamatta.
Siirto-oppiminenTransfer learning
Yhdessä tehtävässä tai aineistossa opitun hyödyntäminen toisessa. Usein mukautetaan esikoulutettua mallia sen sijaan, että uusi malli koulutettaisiin alusta.
SijaintikoodausPositional encoding
Tokenien sijainteja tai keskinäisiä etäisyyksiä kuvaava tieto. Sen avulla attention-mekanismi voi ottaa huomioon sekvenssin järjestyksen.
SoftmaxSoftmax
Funktio, joka muuntaa pisteet positiivisiksi arvoiksi, joiden summa on yksi. Näitä käytetään usein eri tokenivaihtoehtojen todennäköisyyksinä.
Lähde: PyTorch: Softmax
Spekulatiivinen dekoodausSpeculative decoding
Generoinnin nopeuttaminen tuottamalla useita tokeniehdotuksia kevyemmällä menetelmällä ja tarkistamalla ne varsinaisella mallilla.
Suuri kielimalli (LLM)Large language model (LLM)
Laajalla aineistolla koulutettu kielimalli, jossa on paljon parametreja. Nimityksellä ei ole yleispätevää kokorajaa.
Synteettinen aineistoSynthetic data
Keinotekoisesti tuotetut koulutus- tai arviointiesimerkit, esimerkiksi toisen mallin generoimat vastaukset.
SyväoppiminenDeep learning
Koneoppimista monikerroksisilla neuroverkoilla. Peräkkäiset kerrokset voivat muodostaa yhä monimutkaisempia esityksiä aineistosta.
Syötteen käsittely (prefill)Prefill
Syötekontekstin käsittely ennen uusien tokenien tuottamista. Välimuistia käyttävässä Transformerissa muodostetaan samalla syötteen KV-välimuisti.
TarkistuspisteCheckpoint
Tallennettu mallin tila. Koulutuksen tarkistuspiste voi sisältää myös optimoijan tilan ja tiedon etenemisestä, jotta koulutusta voidaan jatkaa.
Tekoäly (AI)Artificial intelligence (AI)
Tieteenala, jossa kehitetään esimerkiksi oppimiseen, havaitsemiseen ja päättelyyn kykeneviä järjestelmiä. Koneoppiminen on yksi lähestymistapa.
Tekoälyn suuntaaminenAlignment
Mallin toiminnan sovittaminen haluttuihin tavoitteisiin, ohjeisiin tai mieltymyksiin koulutuksen ja järjestelmäsuunnittelun avulla.
Lähde: Hugging Face: Reinforcement learning from human feedback
TensoriTensor
Numeerinen taulukko, jolla voi olla nolla tai useampia ulottuvuuksia. Neuroverkot esittävät syötteet, painot ja välitulokset tensoreina.
Lähde: PyTorch: Tensors
TokeniToken
Mallin käsittelemä yksikkö, esimerkiksi sanan osa, merkki tai tavu. Tokeni ei siis välttämättä vastaa kokonaista sanaa.
TokenisoijaTokenizer
Komponentti, joka muuntaa tekstin tokenien numeerisiksi tunnisteiksi ja tunnistejonon takaisin tekstiksi.
Top-k-otantaTop-k sampling
Seuraava tokeni arvotaan vain k todennäköisimmän vaihtoehdon joukosta. Niiden todennäköisyydet skaalataan ensin niin, että niiden summa on yksi.
Top-p-otantaTop-p sampling
Seuraava tokeni arvotaan pienimmästä todennäköisimpien vaihtoehtojen joukosta, jonka yhteenlaskettu todennäköisyys saavuttaa p:n. Menetelmä tunnetaan myös nimellä nucleus sampling.
TransformerTransformer
Attention-mekanismiin ja eteenpäinkytkettyihin kerroksiin perustuva neuroverkkoarkkitehtuuri. Monet kielimallit tuottavat tekstiä pelkkään dekooderiin perustuvalla Transformerilla.
Lähde: Attention Is All You Need
TyökalukutsuTool calling
Mallin tuottama rakenteinen pyyntö käyttää funktiota tai palvelua. Sovellus suorittaa pyydetyn toiminnon ja palauttaa tuloksen mallille.
Lähde: Anthropic: Handle tool calls
Täsmällisyys (precision)Precision
Positiivisiksi ennustetuista tapauksista niiden osuus, jotka ovat todella positiivisia. Mittari kertoo, kuinka luotettavia positiiviset ennusteet ovat.
UpotusEmbedding
Kohteen, esimerkiksi tekstin, opittu vektoriesitys. Hakujärjestelmät vertailevat upotuksia löytääkseen samankaltaista sisältöä.
Vahvistusoppiminen (RL)Reinforcement learning (RL)
Toimintatavan oppiminen siten, että odotettu palkkio kasvaa. Kielimallien koulutuksessa palkkioita voidaan antaa mallin tuottamista vastauksista.
Vahvistusoppiminen ihmispalautteesta (RLHF)Reinforcement learning from human feedback (RLHF)
Ihmispalautteen käyttäminen vahvistusoppimisen palkkiosignaalina. Usein ensin koulutetaan palkkiomalli ihmisten tekemien vastausvertailujen perusteella.
Lähde: Hugging Face: Reinforcement learning from human feedback
ValidointiaineistoValidation data
Koulutuksesta erillään pidettävät esimerkit, joilla seurataan mallin kehitystä ja valitaan asetuksia. Niiden perusteella ei suoraan päivitetä mallin parametreja.
Vastausten ankkurointiGrounding
Vastausten perustaminen ulkoisiin tietolähteisiin, kuten haettuihin dokumentteihin tai hakutuloksiin, pelkkien mallin painoihin opittujen tietojen sijaan.
Vastavirta-algoritmiBackpropagation
Gradienttien laskeminen verkon läpi lopusta alkuun, jotta optimoija voi päivittää mallin parametreja.
VektoritietokantaVector database
Tietokanta, joka tallentaa vektoreita ja tukee samankaltaisuushakua. Esimerkiksi tekstiä voidaan hakea sen upotusten perusteella.
Lähde: Google Cloud: Vector Search
VertailutestiBenchmark
Vakioitu tehtäväjoukko ja pisteytys mallien vertailua varten. Pistemäärä kuvaa mallin suoriutumista juuri näissä tehtävissä.
Lähde: Hugging Face: Evaluate
Vinouma ja vakiotermi (bias)Bias
Bias tarkoittaa asiayhteydestä riippuen joko mallin tulosten systemaattista vinoumaa tai neuroverkon kerroksessa summattavaa opittua vakiotermiä.
Lähde: Google: ML Fundamentals
Visuaalinen kielimalli (VLM)Vision-language model (VLM)
Malli, joka yhdistää kuva- ja kielitietoa esimerkiksi vastatakseen kuvaa koskeviin kysymyksiin.
Yleinen tekoäly (AGI)Artificial general intelligence (AGI)
Tekoäly, joka suoriutuu laajasti erilaisista kognitiivisista tehtävistä, usein ihmisen suoritustasoon verrattuna. Määritelmästä ja vaadittavasta tasosta ei ole yksimielisyyttä.
Lähde: Levels of AGI
YlisovittaminenOverfitting
Koulutusaineiston yksityiskohtien oppiminen tavalla, joka ei yleisty uuteen aineistoon. Malli voi onnistua koulutusesimerkeissä mutta suoriutua uusista esimerkeistä huonosti.