Sådan fungerer store sprogmodeller · Mindmaps

Sådan fungerer store sprogmodeller · Mindmaps

The interactive MindMap canvas for this explanation — every lane, row and arrow above is a real QueryChart diagram you can open and edit.

Sådan læser du mindmappet

• Begynd ved emnet i midten, og følg en farvet gren til de tilhørende idéer.
• Buede linjer viser sammenhænge; pile bruges, når retningen har betydning.

Training

Denne gren samler “Pre-training is a single prediction task at massive scale: given a sentence with a word hidden, predict it. From that one task the model learns grammar, facts and reasoning patterns.”, “The model learns statistical patterns between words”, “Fine-tuning continues training on a smaller, curated dataset — customer support, code, a company's docs — to change the model's behaviour toward the desired style.”.

Tokenize

Denne gren samler “The prompt is split into tokens”, “Tokens become numerical embeddings”.

Attention

Denne gren samler “Attention is what lets “bank” be read as a river bank or a money bank depending on the surrounding words — the whole sentence influences every token's meaning.”.

Generate

Denne gren samler “The model predicts the most likely next token”, “The model writes one token at a time, feeding each output back in as new input. A stop condition (end-of-text token, length limit) ends the loop.”.

Output

Denne gren samler “Tokens are decoded back into readable text”, “The response is returned to the user”.

Forbindelser på tværs

En LLM er en forudsiger af det næste token, ikke et system, der henter svar frem: hvert svar er en kæde af enkelttoken-forudsigelser.

Fortræningen leverer evnen; finjustering og prompting styrer den mod en opgave.

Tokens, ikke tegn eller hele ord, er de enheder, modellen tænker i.

Attention lader konteksten omforme betydningen, og det er dét, der gør, at de samme ord betyder forskellige ting i forskellige sætninger.

Genereringen er rekursiv: hvert output-token bliver til nyt input, og det er derfor, svar kan være lange, sammenhængende og forkerte med lige stor overbevisning.

Key relationships and takeaways

• En LLM er en forudsiger af det næste token, ikke et system, der henter svar frem: hvert svar er en kæde af enkelttoken-forudsigelser.
• Fortræningen leverer evnen; finjustering og prompting styrer den mod en opgave.
• Tokens, ikke tegn eller hele ord, er de enheder, modellen tænker i.
• Attention lader konteksten omforme betydningen, og det er dét, der gør, at de samme ord betyder forskellige ting i forskellige sætninger.
• Genereringen er rekursiv: hvert output-token bliver til nyt input, og det er derfor, svar kan være lange, sammenhængende og forkerte med lige stor overbevisning.

When to use this visual

• At forklare et ikke-teknisk publikum, hvad en LLM faktisk gør, og hvorfor den kan tage overbevisende fejl.
• At lære et produktteam forskellen på træning, finjustering og prompting, så de kan ræsonnere om modellens adfærd.
• At forankre en diskussion om tokengrænser, omkostninger og svartid i mekanikken token for token.

Sådan fungerer det

1. Tilpas emnet i midten

   Giv emnet et navn, der passer til dit projekt eller din undervisning.

2. Udbyg grenene

   Rediger idéerne, og tilføj eksempler eller noter.

3. Forbind beslægtede idéer

   Tegn forbindelser på tværs af grene; brug kun pile, når retningen betyder noget.

Ofte stillede spørgsmål

Hvad er en stor sprogmodel?

En stor sprogmodel (LLM) er et neuralt netværk, der er trænet til at forudsige det næste ord i en sekvens, i enorm skala. Ud af det ene mål lærer den grammatik, fakta, ræsonnement og stil godt nok til at generere flydende tekst. Navnet beskriver mekanismen: den er stor (milliarder af parametre), trænet på sprog og grundlæggende en forudsiger af det næste token.

Hvorfor genererer en LLM tekst ét token ad gangen?

Fordi dens eneste operation er at forudsige det mest sandsynlige næste token ud fra alt det, der er kommet indtil nu. Efter hver forudsigelse lægges det token til inputtet, og processen gentager sig: sløjfen »Skal der genereres videre?« i diagrammet. Det rekursive design er det, der lader modellen producere vilkårligt lang tekst, og også grunden til, at output kan drive af eller gentage sig: hvert skridt ser kun de tokens, det allerede har genereret.

Hvad er forskellen på fortræning og finjustering?

Fortræningen er den massive indledende fase: modellen lærer generelle sprogmønstre fra terabytes af tekst, og det er dér, dens rå evne kommer fra. Finjustering er en mindre, senere fase på kurateret data til en bestemt opgave eller stil, og den ændrer, hvordan den fortrænede model opfører sig. De fleste brugere af LLM'er finjusterer aldrig: de prompter, og det styrer den samme model på inferenstidspunktet.

Hvorfor giver LLM'er nogle gange forkerte svar med stor overbevisning?

Fordi modellen optimerer efter sandsynlig tekst og ikke efter sandhed. Den har ingen intern database og ingen korrekthedskontrol; den producerer den fortsættelse, der passer til dens træningsmønstre. Når mønsteret er et plausibelt lydende udsagn, fremsætter den det med overbevisning. Det er derfor, diagrammet beskriver modellen som en forudsiger og ikke som en, der henter frem: forbeholdet om ærlighed er en egenskab ved mekanismen og ikke en fejl, som skalering alene vil lappe.

Rediger dette mindmap i QueryChart

Åbn mindmappet på et redigerbart lærred. Flyt idéer, tilføj grene, og tegn forbindelser.

Rediger dette mindmap i QueryChart