Jorden är platt. Sa AI.

Generativ AI är inte en expert. Den är en språkmodell. Den förstår inte. Den har ingen uppfattning om rätt eller fel. Den svarar bara utifrån vad som är mest sannolikt utifrån innehållet den tränats på. Detta måste man förstå för att få ut maximalt värde av sina AI-verktyg.

Om en större del av innehållet en språkmodell tränats på förmedlar att jorden är platt som en sanning och en mindre del, om än vetenskaplig, förmedlar att den är rund, ja då kommer modellen börja luta åt att jorden är platt. Inte för att den tror det, utan för att den lärt sig att det är den mest sannolika fortsättningen i de texter den sett.

Språkmodeller imiterar språk och återskapar mönster utifrån sannolikhet. Om majoriteten av innehållet de tränats på är felaktigt så blir också deras svar felaktiga. Samtidigt formuleras ofta svaren med full övertygelse eftersom det mesta innehållet de tränats på är skrivet med övertygelse. De lär sig inte bara vad som sägs i text, utan också hur det sägs. Det är nog sällan människor skriver saker utan att låta självsäkra.

Jag har sett en hel del inlägg på Linkedin över tid som räknat ut generativ AI för att de förväntat sig att den är en sökmotor, en kunskapsdatabas eller en expert.

READ MY LIPS: En språkmodell är INTE en expert. Eller en kunskapsdatabas. Första steget för att dra nytta av AI är att förstå detta.

Jag skriver det igen: en språkmodell förstår inte ämnet den skriver om. Den gissar fram svar baserat på vad som är mest sannolikt utifrån det innehåll den har tränats på.

Om man inte förstår detta kan resultatet, eller användningen av resultatet rättare sagt, få rentav katastrofala konsekvenser.

Den som använder svaren som om de vore svar från en expert avslöjar inte AI:ns bristande expertis (den har ju ingen) utan snarare sin egen brist på förståelse för vad generativ AI är och vad den inte är. Personen avslöjar dessutom sin brist på kunskap i ämnet som svaret handlar om eftersom man inte kunnat validera det.

Det är inte samma sak som att generativ AI är värdelöst. Nej, den kan vara ett fantastiskt hjälpmedel när man förstår hur den fungerar och använder den rätt.