Generativ AI är inget uppslagsverk

Debatten om generativ AI präglas ofta av missförstånd kring vad språkmodeller egentligen är, och vad de inte är. Det märks särskilt i den kanske vanligaste kritiken mot dem. Det vill säga att de hallucinerar, att de hittar på svar när de inte hittar svar (ett inte helt ovanligt mänsklig beteende, bör tilläggas).

Kritiken är inte obefogad, men den är missvisande. Den utgår nämligen från ett felaktigt antagande: att modellerna är uppslagsverk eller sökmotorer som ska ge fakta som svar. Men språkmodellerna är INTE är uppslagsverk. De är statistiska system som genererar text baserat på sannolikhet. Genom att fokusera kritiken mot generativ AI på dessa brister, utan att samtidigt förklara ovanstående, bidrar många gånger till att sprida det felaktiga antagandet.

AI och den språkliga yrkesidentiteten
Faktum kvarstår dock att modellerna ändå producerar text som duger, eller till och med imponerar för många syften. Och det är just detta som många upplever som ett hot. En intressant observation från många AI-kritiska kommentarer i social medier är att de som skriver dem ofta är personer som livnär sig på text, som skribenter, översättare, copywriters och kommunikatörer. Det är inte svårt att förstå varför de känns sig hotade. När språkmodeller blir bättre på att skriva snabbt, varierat och ibland överraskande insiktsfullt (förstås utan att förstå att de gör det, statistiska modeller som de är) hotas både försörjningen och identiteten hos de personer vars yrke bygger på språklig skicklighet.

"Den vanligaste kritiken är att AI hittar på svar när den inte vet – ett agerande inte helt olikt det mänskliga."

Ett hot och en möjlighet
Deras hantverk är hotat (även om själva skapandeprocessen med mänskliga förmågor som kreativitet och tänkandet inte alls är det), på samma sätt som många fysiska hantverk hotats och ersatts av maskiner och massproduktion i fabriker. Hantverket är inte värdelöst, men det kommer bli mindre efterfrågat. Det kommer bli mer exklusivt, och de som är riktigt duktiga på det kan ta mer betalt. Men på det hela blir det färre som kommer behöva utföra det.

Blunda inte för möjligheterna
För att inte hamnar i ett läge där vi går miste om att realisera möjligheterna med AI behöver vi föra en mer nyanserad diskussion om vad generativ AI faktiskt är bra och mindre bra på. Inte för att blunda för riskerna, utan för att inte blunda för möjligheterna.