Hjem Personlig finansiering Hvordan få Apache Oozie satt opp i Hadoop - dummies

Hvordan få Apache Oozie satt opp i Hadoop - dummies

Video: MVC 2024

Video: MVC 2024
Anonim

Apache Oozie er inkludert i alle store Hadoop-distribusjoner, inkludert Apache Bigtop. I Hadoop-klyngen skal du installere Oozie-serveren på en kantnode, hvor du også vil kjøre andre klientprogrammer mot klyngens data, som vist.

Edge noder er designet for å være en gateway for utvendig nettverk til Hadoop-klyngen. Dette gjør dem ideelle for dataoverføringsteknologier (Flume, for eksempel), men også klientprogrammer og annen applikasjonsinfrastruktur som Oozie. Oozie trenger ikke en dedikert server, og kan lett sameksistere med andre tjenester som er ideelt for kantnoder, som Pig and Hive.

Etter at Oozie er distribuert, er du klar til å starte Oozie-serveren. Oozies infrastruktur er installert i katalogen $ OOZIE_HOME. Derfra løp du oozie-start. sh kommando for å starte serveren. (Som du kanskje forventer, innebærer å stoppe serveren å skrive oozie-stop. Sh.) Du kan teste statusen til Oozie-forekomsten din ved å kjøre kommandoen

oozie admin-status

Etter at du har installert Oozie-serveren og startet, kan du katalogisere og kjøre dine ulike arbeidsflyt, koordinator eller buntejobber. Når du jobber med jobbene dine, lagrer Oozie katalogdefinisjonene - dataene som beskriver alle Oozie-objekter (arbeidsflyt, koordinator og buntjobber) - så vel som deres tilstander i en dedikert database.

Som standard er Oozie konfigurert til å bruke den innebygde Derby-databasen, men du kan bruke MySQL, Oracle eller PostgreSQL, hvis du trenger det.

Du har fire alternativer for interaksjon med Oozie-serveren:

  • Java API: Dette alternativet er nyttig i situasjoner der du har din egen planleggingskode i Java-programmer, og du må kontrollere utførelsen av din Oozie-arbeidsflyter, koordinatorer eller bunter fra din søknad.

  • REST-API: Igjen, fungerer dette alternativet godt i de tilfellene der du vil bruke din egen planleggingskode som grunnlag for dine Oozie-arbeidsflyter, koordinatorer eller bunter, eller hvis du ønsker å bygge ditt eget grensesnitt eller utvide en eksisterende for å administrere Oozie-serveren.

  • Command Line Interface (CLI): Det er det tradisjonelle Linux-kommandolinjegrensesnittet for Oozie.

  • Oozie Webkonsoll: Ok, kanskje du ikke kan gjøre mye samhandling her, men Oozie Web Console gir deg en (skrivebeskyttet) visning av Oozie-serverens tilstand, som er nyttig for overvåking av dine Oozie jobber.

Hue, et Hadoop administrasjonsgrensesnitt, gir et annet verktøy for å jobbe med Oozie.Oozie-arbeidsflyter, koordinatorer og bunter er alle definert ved hjelp av XML, noe som kan være kjedelig å redigere, spesielt for komplekse situasjoner. Hue gir et GUI designerverktøy for å grafisk bygge arbeidsflyter og andre Oozie objekter.

Under dekslene inneholder Oozie en innebygd Tomcat webserver som håndterer inngang og utgang.

Hvordan få Apache Oozie satt opp i Hadoop - dummies

Redaktørens valg

Hvordan å stable og gruppereformer i Word 2013 - dummies

Hvordan å stable og gruppereformer i Word 2013 - dummies

Enkeltformer kan noen ganger være nyttige i en dokument, men den virkelige kraften til Word 2013's Shapes-funksjonen kan bli funnet ved å kombinere figurer for å lage mer komplekse tegninger og logoer. Du kan stable formene oppå hverandre og kontrollere rekkefølgen de vises i stakken. Når du har ...

Hvordan du angir punktavstand i Word 2013 - dummies

Hvordan du angir punktavstand i Word 2013 - dummies

Word 2013 lar deg legge til "luft" til plass før eller etter eller i midten av avsnittene dine. I midten av avsnittet har du linjeavstand. Før og etter avsnittet kommer punktavstand. Hvordan sette linjeavstanden Endre linjeavstanden legger til ekstra mellomrom mellom alle tekstlinjer ...

Slik starter du et nytt dokument i Word 2007 - dummies

Slik starter du et nytt dokument i Word 2007 - dummies

Starter et nytt dokument i Word 2007 er lett. Hvis du nettopp har startet Word 2007 og vil åpne et tomt dokument, kan du følge tre enkle trinn.

Redaktørens valg

Slik oppretter du en AWS Administrator User - Dummies

Slik oppretter du en AWS Administrator User - Dummies

Opprett Administrator-gruppen er det første trinnet for å sikre at din AWS (Amazon Web Services) -kontoen er fortsatt trygg. Det neste trinnet er å opprette en konto for deg selv og tilordne den til administratorgruppen, slik at du har full tilgang til de administrative funksjonene i din AWS-konto. Følgende trinn beskriver hvordan ...

Vurderer AWS-støttede plattformer - dummies

Vurderer AWS-støttede plattformer - dummies

Hvis du ikke har behandlet AWS eller skyen ennå, du kan være fristet til å tenke på plattformer som en bestemt kombinasjon av gjenstander. For eksempel, når du ser ditt eget lokale oppsett, har du en server som kjører et bestemt operativsystem og har et bestemt sett med maskinvareressurser. Systemet har en bestemt ...

Lage skuffer på Amazon Web Services - dummies

Lage skuffer på Amazon Web Services - dummies

Når du er den stolte eieren av Amazon Web Services (AWS ) konto, det er på tide å gjøre noe nyttig, som å lage en bøtte. Start med å sjekke ut dine S3-ressurser. For å gjøre det, klikk S3-lenken på startsiden for AWS Management Console, som vist her: Du er tatt til en side som lar deg administrere ...

Redaktørens valg

Slik bruker du Eye-Fi med Evernote-dummies

Slik bruker du Eye-Fi med Evernote-dummies

Et selskap kalt Eye-Fi gjør det mulig å Koble kameraet ditt med Evernote, selv uten å koble kameraet til datamaskinen. Følg disse trinnene for å bruke Eye-Fi: Følg instruksjonene som følger med Eye-Fi-kortet for å konfigurere en Eye-Fi-konto. Sett inn Eye-Fi-kortet i kameraet. Slå på kameraet ditt. ...

Hvordan man merker på Evernote for datamaskiner og tabletter - dummies

Hvordan man merker på Evernote for datamaskiner og tabletter - dummies

Hele poenget med å lagre nyttig informasjon er for å kunne finne den senere. Tagging i Evernote er fundamentalt lik for alle plattformer og er ekstremt nyttig når du dash om å prøve å skrive inn notater på hvilken enhet du bruker på den tiden. For å lage en tagg for et notat på en datamaskin eller ...