Data – AI:s bränsle: varför data avgör

I lektionen om hur ett nätverk lär sig nämndes principen ”skräp in, skräp ut” i förbigående. Dags att ta den på allvar: data är inte bakgrund, det är bränslet som varje AI drivs av. Ändra bränslet och allt förändras.

Varför datan avgör, inte algoritmen

Intuitionen säger att en stark AI innebär en briljant algoritm. I verkligheten har träningsalgoritmer publicerats i åratal och är tillgängliga för alla – studenter studerar dem. Det som skiljer en medelmåttig modell från en bra är oftare datan: hur mycket, hur ren, hur varierad. Kom ihåg från lektion ett varför genombrottet kom 2012: neurala nätverksalgoritmer hade varit kända sedan 1980-talet, men de aktiverades först när internet hade samlat miljarder exempel. Algoritmen väntade inte på data – datan väckte algoritmen.

Därav branschregeln: att investera i data lönar sig oftast bättre än ytterligare en justering av modellen. Företag med unik data (sökmotorer, sociala nätverk, banker) är starka just på grund av den – data är svårare att kopiera än kod.

Två typer av data: strukturerad och ostrukturerad

Strukturerad data är prydligt organiserad i tabeller: rader, kolumner, siffror, kategorier. Kundålder, köpbelopp, datum – allt på sin plats.

Ostrukturerad data är allt annat: texten i e-postmeddelanden, foton, ljud, video, inlägg. Inga rader, inga kolumner – bara en ström. Enligt olika uppskattningar är det mesta av världens data ostrukturerad, och i årtionden kunde företag knappt använda något av den. Genombrottet med neurala nätverk är just detta: för första gången finns det ett verktyg som utvinner mening ur det havet. LLM från förra modulen är en maskin för att smälta ostrukturerad text.

Var data kommer ifrån

• Märkning (Labelling). Människor lägger till ”svaren” för hand: markerar fotgängare i filmer för självkörande bilar, markerar e-post som spam/inte spam. Den berömda ImageNet-datamängden från lektion ett – cirka 14 miljoner bilder, handmärkta av en armé av människor; det var den AlexNet vann på. Märkning är dyrt, långsamt och oersättligt arbete.
• Beteendeövervakning. Varje klick, varje like, varje video du tittar på till slutet är gratis märkning. Utan att märka det är du den som tränar rekommendationssystemen: tittade till slutet – ”bra exempel”; skrollade förbi – ”dåligt exempel”.
• Färdiga datamängder. Insamlade, rengjorda uppsättningar som många återanvänder: texten i böcker, encyklopedier, öppna fotosamlingar. Snabbt – men alla har samma, så de ger ingen unik fördel.

Du ger input och output – nätverket bygger resten själv

En viktig detalj som förklarar varför märkning av ”input → svar” räcker. Du beskriver aldrig för AI:n hur en katt eller ett ansikte ser ut. Du ger bara input A (ett foto) och output B (”katt / inte katt”) – och nätverket sätter ihop de mellanliggande funktionerna själv, lager för lager, som legobitar. I ansiktsigenkänning kan du se det tydligt: de första lagren hittar enkla kanter och klumpar, nästa bygger delar av dem (ett öga, en näsa, en kontur), de översta bygger hela ansikten.

Ingen programmerade ”ett öga” för hand – nätverket utvecklade konceptet själv, bara för att svaren skulle bli rätt. Det är därför metoden vann (kom ihåg lektionen om vad AI är): de egenskaper en person inte kunde sätta ord på, härleder maskinen från exempel.

”Skräp in, skräp ut”

Nu kan principen från träningslektionen höras i full volym. En modell är inte smartare än sin data: den lär sig vad du visade den, inklusive misstag, luckor och snedvridningar.

Ett verkligt fall: 2016 lanserade Microsoft en chatbot på Twitter kallad Tay, avsedd att lära sig naturlig konversation direkt från vad användarna sa till den. På mindre än ett dygn begravde troll den i kränkande och rasistiska meddelanden – och Tay, som lydigt lärde sig från det ”bränslet”, började upprepa samma smuts. Sexton timmar senare drog Microsoft ur kontakten. Algoritmen fungerade exakt som avsedd – det var datan som hälldes in som var förgiftad.

Tre missuppfattningar om data

• ”Mer data är alltid bättre.” Nej: en miljon skräpexempel är värre än tusen rena. Volym utan kvalitet förstärker bara felet.
• ”Data är objektivt, det är siffror.” Data är ett avtryck av verkligheten, skapat av människor, med deras val och blinda fläckar. En siffra är ingen garanti för sanning: kom ihåg kunskapsgränsen och de inaktuella priserna från träningslektionen.
• ”Vi har inte mycket data – AI är inget för oss.” Lite räcker ofta, om det är rent och relevant; och du kan alltid ta en färdig modell och fylla på dess träning lite (det var i slutet av träningslektionen).

Gör detta nu

En fem minuters övning, inga verktyg – bara ditt huvud. Välj vilken AI-tjänst du känner till (ett rekommendationsflöde, ett spamfilter, en röstassistent) och svara på tre frågor på papper: (1) vilken data tränades den troligast på? (2) var kom den datan ifrån – märkning, beteendeövervakning eller en färdig datamängd? (3) vilken snedvridning kan ha smugit sig in i den? Vanan att se datan bakom resultatet är det som skiljer en professionell från en konsument. I nästa lektion ska vi titta på vad AI, med sådan data, verkligen kan göra – och vad som ligger bortom den.