Hjem Personlig finansiering Reduksjonsfasen av Hadops MapReduce Application Flow-dummies

Reduksjonsfasen av Hadops MapReduce Application Flow-dummies

Anonim

Reduksjonsfasen behandler nøkler og deres individuelle liste over verdier, slik at det som normalt returneres til klientprogrammet, er et sett med nøkkel / verdi-par. Her er blow-by-blow så langt: Et stort datasett er delt inn i mindre stykker, kalt inngangssplitt, og individuelle forekomster av mapperoppgaver har behandlet hver enkelt av dem.

I noen tilfeller er denne enkeltfasen av behandling alt nødvendig for å generere ønsket programutgang. Hvis du for eksempel kjører en grunnleggende transformasjonsoperasjon på dataene - konverterer all tekst til store versjoner, for eksempel, eller utvider nøkkelbilder fra videofiler - er den eneste fasen alt du trenger. (Dette er kjent som en map-only jobb, forresten.)

Men i mange andre tilfeller er jobben bare halvt ferdig når mapper oppgavene har skrevet utdataene sine. Den gjenværende oppgaven koker ned alle foreløpige resultater til et enkelt, samlet svar.

I likhet med mapper oppgaven, som behandler hver enkelt rekord en-for-en, reduserer reduksjonen hver nøkkel individuelt. Normalt returnerer reduksjonsverktøyet et enkelt nøkkel / verdi-par for hver nøkkel det behandler. Disse nøkkel / verdi-parene kan imidlertid være så ekspansive eller så små som du trenger dem til å være.

Når reduksjonsoppgaver er ferdig, returnerer hver av dem en resultatfil og lagrer den i HDFS (Hadoop Distributed File System). Som vist her, kopierer HDFS-systemet automatisk disse resultatene.

Hvor ressursforvalteren (eller JobTracker hvis du bruker Hadoop 1) forsøker å tilordne ressurser til mapper-oppgaver for å sikre at innspillingen behandles lokalt, finnes det ingen slik strategi for reduksjonsoppgaver. Det antas at mapper oppgavesett sett må overføres over nettverket for å bli behandlet av reduksjonsoppgaver.

Dette er en rimelig implementering fordi det med hundrevis eller tusenvis av mapperoppgaver ikke ville være noen praktisk måte for reduksjonsoppgaver å ha samme lokalitetsprioritering.

Reduksjonsfasen av Hadops MapReduce Application Flow-dummies

Redaktørens valg

Speil Lockup (MUP) på Nikon D7100-dummies

Speil Lockup (MUP) på Nikon D7100-dummies

En komponent i det optiske systemet til din Nikon D7100 kamera er et speil som beveger seg hver gang du trykker på lukkerknappen. Den lille vibrasjonen som følge av speilets handling kan føre til svak utryddelse av bildet når du bruker en veldig langsom lukkerhastighet, skyter med en lang teleobjektiv, ...

Opptaksmuligheter på Nikon D5300 - dummies

Opptaksmuligheter på Nikon D5300 - dummies

Du kan styre noen få aspekter av din filmoppgave på din Nikon D5300. Du kan manipulere videoen din for å skape en rekke effekter. Følgende liste går gjennom disse alternativene: Eksponeringsmodus: Du kan ta opp filmer i hvilken som helst eksponeringsmodus (Auto, Scenemodus, Effektmodus, P, M, og så videre). Som med fortsatt ...

Hvordan man manipulerer eksponering og kontroll på Nikon D5600-dummies

Hvordan man manipulerer eksponering og kontroll på Nikon D5600-dummies

Følgende retusjonsverktøy på din Nikon D5600 kamerajustering eksponering og farge: D-Lighting, Quick Retouch, Filter Effects og Monochrome. Selv om disse verktøyene ikke får deg til å velge ett kamera over en annen, hvis du allerede har en Nikon D5600, er de tilgjengelige, så du kan også lære å bruke dem! D-Lighting: Active D-Lighting ...

Redaktørens valg

DOs og DON'Ts of Fantasy Basketball Draft Picks - dummies

DOs og DON'Ts of Fantasy Basketball Draft Picks - dummies

Hvis du vurderer bli med i en fantasy basketball liga, må du ta hensyn til følgende DOs og DON'Ts før du vurderer spillerne du vil utarbeide på laget ditt. Kreditt: © iStockphoto. com / IS_ImageSource Fantasy basketball draft pick DOS I de fleste fantasy basketball ligaer bestemmer kommisjonen (personen som setter opp ligaen) bestillingen i ...

Linjene og dimensjonene til en basketballbane - dummies

Linjene og dimensjonene til en basketballbane - dummies

En basketballbane har symmetri; Den ene halvdelen av retten er et speilbilde av den andre. Hele basketballbanen (se figur 1) er 94 fot med 50 fot. På hver halvplass viser malte linjer fritt korsbanen og sirkelen, samt trepunktsbuen, hvis avstand fra kurven varierer basert ...

Kjøp av gratis agenter i fantasy fotball - dummies

Kjøp av gratis agenter i fantasy fotball - dummies

I løpet av fantasy fotball sesongen, spillere som ikke blir utarbeidet bli gratis agenter - spillere tilgjengelig for enhver ligamatch villig til å slippe en eid spiller. Bruk gratis agentbassenget til å erstatte en skadet spiller eller noen som bare ikke lever opp til dine forventninger. Bruk disse tipsene for å finne en gratis agent for å ...

Redaktørens valg

Grunnleggende for din iOS-app - dummies

Grunnleggende for din iOS-app - dummies

Heldigvis mesteparten av det du trenger å gjøre så langt som iOS animasjon er opptatt er allerede bygd inn i rammen. Noen visningsegenskaper kan animeres, noe som betyr at du bare må fortelle visningen hvor du skal begynne og hvor du skal avslutte flyttingen, og noen få andre valgfrie parametere, og du er ferdig. ...

Montering av verktøylinjen for Android App Development - dummies

Montering av verktøylinjen for Android App Development - dummies

Når du vet at du er klar til være en Android-utvikler, ta tak i datamaskinen din og få sprekker på å installere verktøyene og rammene som er nødvendige for å bygge ditt første blockbuster-program. Linux-kjernen Android ble opprettet på toppen av åpen kildekode Linux-kjernen. Android-teamet valgte å bruke denne kjernen fordi den ga bevist ...

Grunnleggende om Cocoa Touch i iOS Apps - dummies

Grunnleggende om Cocoa Touch i iOS Apps - dummies

Cocoa Touch-laget inneholder det meste av objektet -orientert utvikler-vendt rammer for å bygge iOS applikasjoner. Det er ditt eneste utgangspunkt for app-utvikling. Apple-guiderne oppfordrer deg til å undersøke teknologiene i dette laget for å se om de oppfyller dine behov, før du ser på de andre lagene. Med andre ord, Apple har til hensikt å ...