Hoppa till innehåll

Stor språkmodell (LLM)

Ett datorprogram som har tränats på mycket text och skriver svar genom att gång på gång förutsäga vilken textbit som sannolikt kommer härnäst.

Fullständigt namn
Large Language Model
Kallas även
large language model
Kategori
AI

Enkel förklaring

En stor språkmodell, på engelska large language model (LLM), är den sortens AI som finns bakom AI-chattar och AI-agenter. Den har tränats på väldigt mycket text och har lärt sig mönster i språk: hur ord och meningar brukar hänga ihop.

När du ställer en fråga skriver modellen svaret en liten bit i taget. För varje bit räknar den ut hur sannolika olika fortsättningar är efter det som redan står, och väljer en av dem. På så sätt kan den skriva text, svara på frågor, sammanfatta och skriva kod.

Teknisk förklaring

En språkmodell är ett neuralt nätverk, oftast av typen transformer, en arkitektur som presenterades 2017. Modellen tränas i flera steg:

  • förträning (pretraining): modellen lär sig förutsäga nästa token i en mycket stor mängd text
  • efterträning, till exempel finjustering och träning med mänsklig återkoppling, så att den följer instruktioner och blir mer hjälpsam

När modellen skriver väljer den nästa token utifrån sannolikheter. Ett visst mått av slump gör att samma fråga kan ge olika svar. Modellen ser bara det som får plats i dess kontextfönster.

Praktiskt exempel

Kodkollektivet Academy är skrivet med hjälp av en AI-agent som styrs av en stor språkmodell. Modellen skriver förslag till kod och text, och de automatiska testerna och en människa kontrollerar dem innan de godkänns.

När och varför används det?

Stora språkmodeller används för att skriva, sammanfatta, översätta, förklara och skriva kod. De kan göra mycket arbete snabbt, men de förstår inte världen som en människa gör och kan ha fel.

Rekommendation:

  • Kontrollera fakta i svaren, särskilt namn, siffror och källhänvisningar.
  • Låt tester och granskning kontrollera kod som en modell har skrivit.
  • Skicka aldrig hemligheter eller känsliga personuppgifter till en modell.

Vanliga missförstånd

  • “Modellen slår upp fakta.” Nej. Den skriver det som verkar troligt. Den kan därför låta säker men ha fel. Det kallas att hallucinera.
  • “Modellen vet vad som händer nu.” Nej. Den känner bara till det som fanns i träningsdatan, plus det som skickas med i frågan.
  • “Samma fråga ger alltid samma svar.” Nej. Svaren innehåller ett mått av slump och kan variera.

Relaterade begrepp