Data – AI-ens drivstoff: hvorfor data er det som avgjør

I leksjonen om hvordan et nettverk lærer, ble prinsippet «garbage in, garbage out» nevnt i forbifarten. Det er på tide å ta det på alvor: data er drivstoffet all AI kjører på. Endrer du drivstoffet, endres alt.

Hvorfor dataene avgjør, ikke algoritmen

Intuisjonen sier at en sterk AI betyr en strålende algoritme. I virkeligheten har treningsalgoritmer vært publisert i årevis og er tilgjengelige for alle – studenter studerer dem. Det som skiller en middelmådig modell fra en god, er oftere dataene: hvor mye, hvor rene, hvor varierte. Husk fra leksjon én hvorfor gjennombruddet kom i 2012: algoritmene for nevrale nettverk hadde vært kjent siden 1980-tallet, men de tok ikke av før internett hadde samlet milliarder av eksempler. Algoritmen ventet ikke på data – dataene vekket algoritmen til live.

Derfor gjelder bransjeregelen: investering i data lønner seg vanligvis bedre enn enda en justering av modellen. Selskaper med unike data (søkemotorer, sosiale nettverk, banker) er sterke nettopp på grunn av dette – data er vanskeligere å kopiere enn kode.

To typer data: strukturerte og ustrukturerte

Strukturerte data er pent organisert i tabeller: rader, kolonner, tall, kategorier. Kundealder, kjøpsbeløp, dato – alt på sin plass.

Ustrukturerte data er alt annet: teksten i e-poster, bilder, lyd, video, innlegg. Ingen rader, ingen kolonner – bare en strøm. Ifølge ulike estimater er det meste av verdens data ustrukturert, og i flere tiår kunne bedrifter knapt bruke noe av det. Gjennombruddet med nevrale nettverk er nettopp dette: for første gang finnes det et verktøy som trekker mening ut av dette havet. LLM-en fra forrige modul er en maskin for å fordøye ustrukturert tekst.

Hvor data kommer fra

• Merking. Folk legger til «svarene» for hånd: tegner omriss av fotgjengere i opptak for en selvkjørende bil, merker e-poster som spam / ikke spam. Det berømte ImageNet-datasettet fra leksjon én – omtrent 14 millioner bilder, merket for hånd av en hær av mennesker; det var det AlexNet vant på. Merking er dyrt, sakte og uerstattelig arbeid.
• Observasjon av atferd. Hvert klikk, hver like, hver video du ser til slutten er gratis merking. Uten å merke det, er det du som trener anbefalingssystemene: sett til slutten – «godt eksempel»; skrollet forbi – «dårlig eksempel».
• Ferdige datasett. Samlede, rensede sett som mange gjenbruker: teksten i bøker, leksikon, åpne fotosamlinger. Raskt – men alle har de samme, så de gir ingen unik fordel.

Du gir input og output – nettverket bygger resten selv

En viktig detalj som forklarer hvorfor merking av «input → svar» er nok. Du beskriver aldri for AI-en hvordan en katt eller et ansikt ser ut. Du gir bare input A (et bilde) og output B («katt / ikke katt») – og nettverket setter sammen de mellomliggende funksjonene selv, lag for lag, som legoklosser. I ansiktsgjenkjenning kan du se det tydelig: de første lagene finner enkle kanter og klatter, de neste bygger deler ut av dem (et øye, en nese, en omriss), de øverste bygger hele ansikter.

Ingen programmerte «et øye» for hånd – nettverket utviklet konseptet selv, bare for at svarene skulle bli riktige. Det er derfor tilnærmingen vant (husk leksjonen om hva AI er): funksjonene en person ikke kunne sette ord på, utleder maskinen fra eksempler.

«Garbage in, garbage out»

Nå kan prinsippet fra treningsleksjonen høres i fullt volum. En modell er ikke smartere enn dataene sine: den lærer det du viste den, inkludert feil, mangler og skjevheter.

Et reelt tilfelle: i 2016 lanserte Microsoft en chatbot på Twitter kalt Tay, ment å lære naturlig samtale direkte fra det brukerne sa til den. På under et døgn begravde troll den i fornærmende og rasistiske meldinger – og Tay, som lydig lærte fra dette «drivstoffet», begynte å gjenta den samme skitten. Seksten timer senere trakk Microsoft pluggen. Algoritmen fungerte nøyaktig som designet – det var dataene som ble matet inn som var forgiftet.

Tre misforståelser om data

• «Mer data er alltid bedre.» Nei: en million søppeleksempler er verre enn tusen rene. Volum uten kvalitet forsterker bare feilen.
• «Data er objektivt, det er tall.» Data er et avtrykk av virkeligheten tatt av mennesker, med deres valg og deres blinde flekker. Et tall er ingen garanti for sannhet: husk knowledge cutoff og de utdaterte prisene fra treningsleksjonen.
• «Vi har ikke mye data – AI er ikke for oss.» Litt er ofte nok, hvis det er rent og relevant; og du kan alltid ta en ferdig modell og fylle på treningen litt (det var på slutten av treningsleksjonen).

Gjør dette nå

En fem-minutters øvelse, ingen verktøy – bare hodet ditt. Velg en AI-tjeneste du kjenner (en anbefalingsfeed, et spamfilter, en stemmeassistent) og svar på tre spørsmål på papiret: (1) hvilke data ble den mest sannsynlig trent på? (2) hvor kom dataene fra – merking, observasjon av atferd, eller et ferdig datasett? (3) hvilken skjevhet kan ha kommet inn i den? Vane med å se dataene bak resultatet er det som skiller en profesjonell fra en forbruker. I neste leksjon skal vi se på hva AI, gitt slike data, virkelig kan gjøre – og hva som er utenfor dens rekkevidde.