Hjem Personlig finansiering MapReduces betydning i Hadoop - dummies

MapReduces betydning i Hadoop - dummies

Video: What Happens to Your Body While You Are Having Sex? 2024

Video: What Happens to Your Body While You Are Having Sex? 2024
Anonim

For det meste av Hadops historie har MapReduce vært det eneste spillet i byen når det gjelder databehandling. Tilgjengeligheten av MapReduce har vært årsaken til Hadops suksess og samtidig en viktig faktor for å begrense videre adopsjon.

MapReduce gjør det mulig for dyktige programmører å skrive distribuerte applikasjoner uten å måtte bekymre seg for den underliggende distribuerte databehandlingsinfrastrukturen. Dette er en veldig stor sak: Hadoop og MapReduce-rammen håndterer all slags kompleksitet som programutviklere ikke trenger å håndtere.

For eksempel skjer muligheten til å gjennomspeile klyngen gjennomsiktig ved å legge til noder og automatisk feiloverføring av både datalagring og databehandlings-undersystemer, med null innvirkning på applikasjoner.

Den andre siden av mynten her er at selv om MapReduce gjemmer en enorm mengde kompleksitet, har du ikke råd til å glemme hva det er: et grensesnitt for parallell programmering. Dette er en avansert ferdighet - og en barriere for bredere adopsjon. Det er ganske enkelt ikke mange MapReduce programmerere, og ikke alle har evnen til å mestre det.

I Hadops tidlige dager (Hadoop 1 og tidligere), kan du bare kjøre MapReduce-applikasjoner på dine klynger. I Hadoop 2 endret YARN-komponenten alt ved å overta ressursstyring og planlegging fra MapReduce-rammen, og ga et generisk grensesnitt for å lette applikasjoner som kjører på en Hadoop-klynge.

Kort sagt betyr dette at MapReduce nå er bare en av mange applikasjonsrammer du kan bruke til å utvikle og kjøre programmer på Hadoop. Selv om det er sikkert mulig å kjøre programmer ved hjelp av andre rammer på Hadoop, betyr det ikke at vi kan begynne å glemme MapReduce.

MapReduce er for øyeblikket det eneste produksjonsberedte databehandlingsramme som er tilgjengelig for Hadoop. Selv om andre rammer vil bli tilgjengelig, har MapReduce nesten et tiår med modenhet under beltet (med nesten 4, 000 JIRA-problemer fullført, involverer hundrevis av utviklere, hvis du holder orden).

Det er ingen tvil: MapReduce er Hadops mest modne rammeverk for databehandling. I tillegg er det en betydelig mengde MapReduce-kode som nå er i bruk, og det er usannsynlig å gå hvor som helst snart. Lang historie kort: MapReduce er en viktig del av Hadoop-historien.

Apache Hive og Apache Pig-prosjektene er svært populære fordi de er enklere tilgangspunkter for databehandling på Hadoop. For mange problemer, spesielt de typene du kan løse med SQL, er Hive og Pig utrolige verktøy.Men for en bredere oppgave som statistisk behandling eller tekstutvinning, og spesielt for behandling av ustrukturerte data, må du bruke MapReduce.

MapReduces betydning i Hadoop - dummies

Redaktørens valg

Speil Lockup (MUP) på Nikon D7100-dummies

Speil Lockup (MUP) på Nikon D7100-dummies

En komponent i det optiske systemet til din Nikon D7100 kamera er et speil som beveger seg hver gang du trykker på lukkerknappen. Den lille vibrasjonen som følge av speilets handling kan føre til svak utryddelse av bildet når du bruker en veldig langsom lukkerhastighet, skyter med en lang teleobjektiv, ...

Opptaksmuligheter på Nikon D5300 - dummies

Opptaksmuligheter på Nikon D5300 - dummies

Du kan styre noen få aspekter av din filmoppgave på din Nikon D5300. Du kan manipulere videoen din for å skape en rekke effekter. Følgende liste går gjennom disse alternativene: Eksponeringsmodus: Du kan ta opp filmer i hvilken som helst eksponeringsmodus (Auto, Scenemodus, Effektmodus, P, M, og så videre). Som med fortsatt ...

Hvordan man manipulerer eksponering og kontroll på Nikon D5600-dummies

Hvordan man manipulerer eksponering og kontroll på Nikon D5600-dummies

Følgende retusjonsverktøy på din Nikon D5600 kamerajustering eksponering og farge: D-Lighting, Quick Retouch, Filter Effects og Monochrome. Selv om disse verktøyene ikke får deg til å velge ett kamera over en annen, hvis du allerede har en Nikon D5600, er de tilgjengelige, så du kan også lære å bruke dem! D-Lighting: Active D-Lighting ...

Redaktørens valg

DOs og DON'Ts of Fantasy Basketball Draft Picks - dummies

DOs og DON'Ts of Fantasy Basketball Draft Picks - dummies

Hvis du vurderer bli med i en fantasy basketball liga, må du ta hensyn til følgende DOs og DON'Ts før du vurderer spillerne du vil utarbeide på laget ditt. Kreditt: © iStockphoto. com / IS_ImageSource Fantasy basketball draft pick DOS I de fleste fantasy basketball ligaer bestemmer kommisjonen (personen som setter opp ligaen) bestillingen i ...

Linjene og dimensjonene til en basketballbane - dummies

Linjene og dimensjonene til en basketballbane - dummies

En basketballbane har symmetri; Den ene halvdelen av retten er et speilbilde av den andre. Hele basketballbanen (se figur 1) er 94 fot med 50 fot. På hver halvplass viser malte linjer fritt korsbanen og sirkelen, samt trepunktsbuen, hvis avstand fra kurven varierer basert ...

Kjøp av gratis agenter i fantasy fotball - dummies

Kjøp av gratis agenter i fantasy fotball - dummies

I løpet av fantasy fotball sesongen, spillere som ikke blir utarbeidet bli gratis agenter - spillere tilgjengelig for enhver ligamatch villig til å slippe en eid spiller. Bruk gratis agentbassenget til å erstatte en skadet spiller eller noen som bare ikke lever opp til dine forventninger. Bruk disse tipsene for å finne en gratis agent for å ...

Redaktørens valg

Grunnleggende for din iOS-app - dummies

Grunnleggende for din iOS-app - dummies

Heldigvis mesteparten av det du trenger å gjøre så langt som iOS animasjon er opptatt er allerede bygd inn i rammen. Noen visningsegenskaper kan animeres, noe som betyr at du bare må fortelle visningen hvor du skal begynne og hvor du skal avslutte flyttingen, og noen få andre valgfrie parametere, og du er ferdig. ...

Montering av verktøylinjen for Android App Development - dummies

Montering av verktøylinjen for Android App Development - dummies

Når du vet at du er klar til være en Android-utvikler, ta tak i datamaskinen din og få sprekker på å installere verktøyene og rammene som er nødvendige for å bygge ditt første blockbuster-program. Linux-kjernen Android ble opprettet på toppen av åpen kildekode Linux-kjernen. Android-teamet valgte å bruke denne kjernen fordi den ga bevist ...

Grunnleggende om Cocoa Touch i iOS Apps - dummies

Grunnleggende om Cocoa Touch i iOS Apps - dummies

Cocoa Touch-laget inneholder det meste av objektet -orientert utvikler-vendt rammer for å bygge iOS applikasjoner. Det er ditt eneste utgangspunkt for app-utvikling. Apple-guiderne oppfordrer deg til å undersøke teknologiene i dette laget for å se om de oppfyller dine behov, før du ser på de andre lagene. Med andre ord, Apple har til hensikt å ...