Slik bruker du kurvefitting i Prediktiv Analytics - dummier

Kurvmontering er en prosess som brukes i prediktiv analyse der målet er å skape en kurve som viser den matematiske funksjonen som best passer de faktiske (opprinnelige) datapunktene i en dataserie.

Kurven kan enten passere gjennom hvert datapunkt eller være innenfor hoveddelen av dataene, og ignorerer noen datapunkter i håp om å tegne trender fra dataene. I begge tilfeller er en enkelt matematisk funksjon tilordnet hele datakilden, med sikte på å tilpasse alle datapunkter til en kurve som avgrenser trender og hjelpemidler.

Kurvmontering kan oppnås på en av tre måter:

• Ved å finne en eksakt passform for hvert datapunkt (en prosess kalt interpolering )

• Ved å holde seg innenfor Størstedelen av dataene mens du ignorerer noen datapunkter i håp om å tegne trender ut av dataene.

• Ved å bruke datautjevning for å komme opp med en funksjon som representerer den glatte grafen

Kurvmontering kan brukes til å fylle inn mulige datapunkter for å erstatte manglende verdier eller hjelpe analytikere å visualisere dataene.

Når du arbeider for å generere en prediktiv analysemodell, må du unngå å skreddersy din modell slik at den passer perfekt til dataseksemplet. En slik modell vil mislykkes - usannsynlig - å forutsi liknende, men varierende datasett utenfor dataeksemplet. Tilpasse en modell for tett til en bestemt datasample er en klassisk feil kalt overfitting .

Ulempen med overfitting

I hovedsak er overfitting av en modell hva som skjer når du overtrer modellen for å representere bare eksempeldataene dine - som ikke er en god representasjon av dataene som helhet. Uten et mer realistisk datasett å fortsette, kan modellen plaget av feil og risiko når den går i drift - og konsekvensene for virksomheten din kan være alvorlige.

Overfitting av en modell er en vanlig felle fordi folk ønsker å lage modeller som fungerer - og så fristet til å holde tilpasningsvariabler og parametere til modellen utfører perfekt - på for lite data. Å feire er menneskelig. Heldigvis er det også menneskelig å skape realistiske løsninger.

For å unngå overfitting av modellen til prøvedatasettet, sørg for at du har en masse testdata tilgjengelig som er skilt fra eksempeldataene dine. Deretter kan du måle ytelsen til modellen uavhengig før du gjør modellen i drift.

En generell sikring mot overfitting er derfor å dele dataene dine i to deler: trening data og testdata. Modellens ytelse mot testdataene vil fortelle deg mye om modellen er klar for den virkelige verden.

En annen god praksis er å sørge for at dataene representerer den større befolkningen i domenet du modellerer for. Alt en overtrained modell vet er de spesifikke egenskapene til prøvedatasettet det er opplært for. Hvis du trener modellen bare på (si) sneskoomsalg om vinteren, ikke bli overrasket om det mislykkes dårlig når det kjører igjen på data fra en hvilken som helst sesong.

Hvordan unngå overfitting

Det er verdt å gjenta: For mye tilpasning av modellen er egnet til å resultere i overfitting. En slik tweak er å inkludere for mange variabler i analysen. Hold disse variablene til et minimum. Bare ta med variabler som du ser som absolutt nødvendig - de du tror vil gjøre en betydelig forskjell for utfallet.

Denne innsikt kommer bare fra intim kjennskap til bedriftsdomenet du befinner deg i. Det er her ekspertisen til domeneeksperter kan bidra til at du ikke kommer i fellen av overfitting.

Her er en sjekkliste over beste praksis for å unngå å overfeste modellen din:

• Velg et datasett for å jobbe med det som er representativt for befolkningen som helhet.

• Del datasettet til to deler: treningsdata og testdata.

• Hold variablene analysert til et sunt minimum for oppgaven ved hånden.

• Få hjelp fra domenekunnskapseksperter.

På aksjemarkedet er for eksempel en klassisk analytisk teknikk back-testing - kjører en modell mot historiske data for å lete etter den beste handelsstrategien.

Anta at etter å ha kjørt sin nye modell mot data generert av et nylig bullmarked, og justere antallet variabler som ble brukt i analysen, oppretter analytikeren det som ser ut som en optimal handelsstrategi - en som gir størst avkastning < hvis han kunne gå tilbake og handle bare i løpet av året som produserte testdataene. Dessverre kan han ikke. Hvis han prøver å bruke den modellen på et nåværende bjørnemarked, se nedenfor: Han vil pådra seg tap ved å bruke en modell for optimalisert for en smal periode og sett av forhold som ikke passer til nåværende realiteter. (Så mye for hypotetisk fortjeneste.)

Modellen fungerte bare for det forsvarte okselmarkedet fordi det var overtrained, med øremerkingen av konteksten som produserte utvalgsdataene - komplett med dets detaljer, utjevninger og mangler. Alle omstendighetene rundt datasettet vil sannsynligvis ikke bli gjentatt i fremtiden, eller i en sann representasjon av hele befolkningen - men alle viste seg i den overbygde modellen.

Hvis en modells utgang er for nøyaktig, bør du vurdere det som et hint å se nærmere på. Få hjelp av domenekunnskapseksperter til å se om resultatene dine egentlig er for gode til å være sanne, og kjør den modellen på flere testdata for videre sammenligninger.