Med klassifikasjonsalgoritmer tar du et eksisterende datasett og bruk det du vet om det for å generere en prediktiv modell for bruk i klassifisering av fremtidige datapunkter. Hvis målet ditt er å bruke datasettet og dets kjente delsett til å bygge en modell for å forutsi kategoriseringen av fremtidige datapunkter, vil du bruke klassifikasjonsalgoritmer.
Når du implementerer overvåket klassifisering, bør du allerede kjenne dataene dine undergrupper - disse delene heter kategorier . Klassifisering hjelper deg med å se hvor godt dataene passer inn i datasettets forhåndsdefinerte kategorier, slik at du deretter kan bygge en prediktiv modell for bruk i klassifisering av fremtidige datapunkter.
Figuren illustrerer hvordan det ser ut til å klassifisere Verdensbankens inntekts- og utgiftsdatasett i henhold til kontinentkategorien.
Du kan se at de undergrupper du kanskje identifiserer med en clusteringsteknikk, i noen tilfeller stemmer overens med kategoriene i kontinenter, men i andre tilfeller gjør de det ikke. Se for eksempel på det ene asiatiske landet midt på de afrikanske datapunkter. Det er Bhutan. Du kan bruke dataene i dette datasettet til å bygge en modell som forutsier en kontinentskategori for innkommende datapunkter.
Men hvis du introduserte et datapunkt for et nytt land som viste statistikk som ligner Bhutan, kunne det nye landet kategoriseres som en del av det asiatiske kontinentet eller det afrikanske kontinentet, avhengig av på hvordan du definerer modellen din.
Forestill deg nå en situasjon der dine opprinnelige data ikke inkluderer Bhutan, og du bruker modellen til å forutsi Bhutans kontinent som et nytt datapunkt. I dette scenariet ville modellen feilaktig forutsi at Bhutan er en del av det afrikanske kontinentet.
Dette er et eksempel på modelloverfitting - situasjoner der en modell er så tettsittende til det underliggende datasettet, samt støyen eller tilfeldig feilen som er knyttet til datasettet, at modellen utfører dårlig som en prediktor for nye datapunkter.
For å unngå overfitting av modellene dine, del dataene dine inn i et treningssett og et testsett. Et typisk forhold er å tildele 80 prosent av dataene til treningssettet og de resterende 20 prosent i testsettet. Bygg modellen din med treningssettet, og bruk testsettet til å evaluere modellen ved å late som at test-sett datapunkter ikke er kjent. Du kan evaluere nøyaktigheten av modellen din ved å sammenligne kategoriene som er tildelt disse testinnstillede datapunktene ved modellen til de sanne kategoriene.
Modell overgeneralisering kan også være et problem. Overgeneralisering er det motsatte av overfitting: Det skjer når en datavitenskapelig forsøker å unngå - feilmelding på grunn av overfitting ved å lage en modell ekstremt generell. Modeller som er for generelle, slutter å gi hver kategori en lav grad av selvtillit.
For å illustrere modell overgeneralisering, vurder igjen Verdensbanken Inntekt og utdanning datasett. Hvis modellen brukte tilstedeværelsen av Bhutan til å kaste tvil på hvert nytt datapunkt i nærområdet, så vil du ende opp med en wishy-washy-modell som behandler alle nærliggende punkter som afrikansk, men med lav sannsynlighet. Denne modellen ville være en dårlig prediktiv utøver.
En god metafor for overfitting og overgeneralisering kan illustreres gjennom den velkjente setningen, "Hvis den går som en and og snakker som en and, så er det en and. "Overfitting ville slå denne setningen inn," Det er en and, hvis, og bare hvis den går og kvitterer akkurat på måter som jeg personlig har observert en and, å gå og kvakke. Siden jeg aldri har observert måten en australsk spottet duck går og kvitterer, må en australsk spottet and ikke egentlig være en and i det hele tatt. "
I motsetning vil overgeneralisering si," Hvis den beveger seg rundt på to bein og avgir enhver høyt nasalyd, er det en and. Derfor må Fran Fine, Fran Drescher karakter i 90-tallet American sitcom The Nanny være en and. "
Overvåket maskinlæring - det fancy begrepet for klassifisering - passer i situasjoner der følgende egenskaper er sanne:
-
Du kjenner og forstår datasettet du analyserer.
-
Deltasettene (kategoriene) i datasettet er definert på forhånd og er ikke bestemt av dataene.
-
Du vil bygge en modell som korrelerer dataene i de forhåndsdefinerte kategoriene, slik at modellen kan bidra til å forutsi kategoriseringen av fremtidige datapunkter.
Når du utfører klassifisering, må du huske følgende:
-
Modellspådommer er bare like gode som modellens underliggende data. I Verdensbankens dataeksempel kan det være tilfelle at hvis for eksempel faktorer som forventet levetid eller energiforbruk per innbygger ble lagt til modellen, kan prediktiv styrke øke.
-
Modellspådommer er bare like gode som kategoriseringen av det underliggende datasettet. Hva gjør du for eksempel med land som Russland som strekker seg over to kontinenter? Skiller du Nord-Afrika fra Afrika sør for Sahara? Klumper du Nord-Amerika med Europa fordi de har en tendens til å dele like egenskaper? Ser du Mellom-Amerika til å være en del av Nord-Amerika eller Sør-Amerika?
Det er en konstant fare for overfitting og overgeneralisering. Et lykkelig medium må finnes mellom de to.
