Vad är AI? En genomgång för beslutsfattare

Grunderna, utan matematik

Vanlig programvara följer regler någon har skrivit. Om beloppet överstiger tiotusen, skicka för attest. Om fältet är tomt, visa ett felmeddelande. Reglerna är läsbara, förutsägbara och går att peka på när något blir fel. Nästan alla system ni har i företaget fungerar så.

AI är den andra vägen: i stället för att skriva reglerna visar man programmet väldigt många exempel och låter det hitta mönstren själv. Ingen skriver ner hur en katt ser ut, man visar en miljon bilder på katter. Ingen skriver ner hur svenska fungerar, man matar in enorma mängder svensk text.

Det ger två egenskaper som förklarar det mesta av vad ni behöver veta. Den första är att systemet klarar fall som ingen har förutsett, eftersom det arbetar med mönster och inte med en lista. Den andra är att ingen kan peka på regeln som gav ett visst svar, eftersom det inte finns någon. Det som finns är miljarder inlärda vikter, och de går inte att läsa som text.

Det är hela bytet, och det är värt att säga rakt ut i en ledningsgrupp: ni byter förutsägbarhet mot flexibilitet. För en attestregel är det ett dåligt byte. För att läsa fritext i ett mejl är det ett utmärkt byte. En stor del av att arbeta klokt med AI handlar om att veta vilken av de två situationerna man befinner sig i.

Värt att notera är också att AI inte är en sak. De sorter ni möter i affärssammanhang är i praktiken tre.

• Klassificering. Systemet sorterar något i kategorier: vilken typ av ärende är det här, är den här fakturan en dubblett, är det här mejlet brådskande. Tråkigt, träffsäkert och det som gör mest nytta i vanlig administration.
• Prognos. Systemet uppskattar ett värde utifrån historik: förväntad efterfrågan, sannolik leveranstid, risk för att en kund lämnar. Kräver att ni har historik som faktiskt är jämförbar över tid, vilket färre företag har än de tror.
• Generativa modeller. Systemet producerar något nytt, oftast text. Det är den här sorten som gjort AI till ett samtalsämne, och den enda där resultatet ser imponerande ut även när det är fel.

En bra lösning innehåller ofta alla tre, plus vanliga regler där det ska vara förutsägbart. Att välja generativ AI för en uppgift som egentligen är klassificering är ett av de vanligaste och dyraste misstagen just nu.

Språkmodeller: träning, kontext och hallucinationer

Det som gjort AI till ett samtalsämne i varje ledningsgrupp de senaste åren är en särskild sorts AI: de stora språkmodellerna. Tre begrepp räcker för att förstå dem tillräckligt bra för att fatta beslut.

Träning

Modellen har fått läsa en mycket stor mängd text och tränats på en enda uppgift: att förutsäga vad som kommer härnäst. Gör man det tillräckligt länge på tillräckligt mycket text uppstår något som liknar kunskap, eftersom det krävs en hel del förståelse för att gissa rätt ord i slutet av en juridisk mening. Efter grundträningen finjusteras modellen på exempel för att svara hjälpsamt i stället för att bara fortsätta texten.

Två konsekvenser för er del. Modellen har en kunskapsgräns i tiden, och den vet inget om er om ni inte berättar det. Den har aldrig sett era priser, era avtal eller er lagerstatus.

Kontext

Kontexten är den text modellen har framför sig just nu: er fråga, det ni klistrat in, det som sagts tidigare i samtalet och eventuella dokument som systemet hämtat in. Kontexten är arbetsminnet, och den är begränsad, även om utrymmet blivit stort i moderna modeller.

Det här är också nyckeln till varför ett byggt system kan vara mycket mer träffsäkert än ett chattfönster. Man låter inte modellen svara ur minnet, man hämtar rätt underlag ur era system och lägger det i kontexten först. Modellen används då för att läsa och formulera, inte för att komma ihåg.

Hallucinationer

En hallucination är när modellen anger något som inte stämmer, med samma säkra ton som när den har rätt. Det är inte en bugg som kommer att fixas i nästa version. Det följer av konstruktionen: målet är att producera det mest rimliga fortsättningen, och en rimlig fortsättning kan vara osann. Modellen har ingen intern uppslagsbok att kontrollera mot.

Frekvensen har minskat betydligt, och den minskar ytterligare när modellen får rätt underlag i kontexten i stället för att svara ur minnet. Men noll blir den inte, och ett system som förutsätter noll är felkonstruerat.

Därför behövs granskning

Om ni bara tar med er en sak från den här texten, ta med er den här: AI-system ska konstrueras utifrån antagandet att de ibland har fel, precis som ni konstruerar ekonomiflöden utifrån antagandet att människor ibland slår fel på tangentbordet.

Det är ingen invändning mot tekniken. Attest, dubbelkontroll och fyraögonsprincip finns för att människor är opålitliga i detaljer, och ingen tycker att det är ett argument mot att ha anställda. Skillnaden är att en modell gör sina fel snabbare, i större skala och utan att låta osäker.

I praktiken betyder det fyra saker när något byggs.

• Ge modellen källorna. Ett svar som bygger på ett hämtat dokument ur era system är mycket säkrare än ett svar ur minnet, och går dessutom att kontrollera.
• Sätt en människa i beslutet. Allt som blir bindande, kostar pengar eller går till kund passerar någon. Vem det är ska vara utpekat, inte underförstått.
• Logga vad som hände. Vad lästes, vad föreslogs, vem godkände. Det förvandlar fel från överraskningar till siffror ni kan följa.
• Mät träffsäkerheten innan ni flyttar kontrollpunkten. Ni ska ha sett tillräckligt många korrekta utfall i era egna loggar innan någon slutar granska ett steg, inte innan leverantören säger att det är säkert.

Det här är också skiljelinjen mellan en demo och ett system i drift. En demo behöver bara fungera en gång, framför rätt publik. Ett system behöver fungera en vanlig tisdag i november, när underlaget är rörigt och ingen tittar.

Vad det betyder för ert företag

Den strategiska slutsatsen är mindre dramatisk än rubrikerna antyder, och mer användbar.

AI är inte ett projekt ni genomför en gång. Det är en förmåga som passar vissa arbetsmoment mycket väl och andra inte alls. Frågan Vad ska vi göra med AI leder nästan alltid fel, eftersom den börjar i tekniken. Frågan Vilka av våra återkommande arbetsmoment handlar om att tolka text, flytta information mellan system eller leta i eget material leder nästan alltid rätt, eftersom den börjar i vardagen.

Fyra frågor att ställa om varje kandidat innan ni går vidare.

1. Hur ofta återkommer det? Femtio gånger i veckan är nästan alltid en bättre kandidat än en gång i månaden, även om det senare känns jobbigare.
2. Går uppgifterna att lita på? Är svaret nej är städning av data första steget. En modell gör inte dålig data bra, den sprider den fortare.
3. Vad händer om det blir fel? Ju större konsekvens, desto tidigare i flödet ska den mänskliga kontrollpunkten sitta.
4. Vad kostar det er idag? Timmar per vecka gånger en rimlig timkostnad, gånger 45 veckor. Siffran behöver inte vara exakt, den behöver bara vara er egen.

Vi publicerar medvetet inga procentsatser från andra företags projekt på den här sajten. En siffra från ett annat bolags flöde säger ingenting om ert, och den enda kalkyl som är värd något är den ni gör själva på ert eget arbete.

Och en avslutande realistisk notering: det första ni automatiserar bör vara litet nog att gå i drift på några veckor. Ett företag som börjar med hela orderflödet får ett projekt som pågår i nio månader. Ett företag som börjar med inläsningen av ordermejlen får något som fungerar före nästa månadsmöte, och ett underlag för att bedöma nästa steg.