ఈ పోస్ట్లో, నేను దాని గురించి మాట్లాడతాను Linux లో అపాచీ పిగ్ సంస్థాపన . అపాచీ పిగ్ మరియు పిగ్ లాటిన్ యొక్క ప్రాథమిక నిర్వచనంతో ప్రారంభిద్దాం.
అపాచీ పిగ్ హడూప్తో ఉపయోగించిన మ్యాప్ తగ్గించు ప్రోగ్రామ్ను సృష్టించడానికి మరియు అమలు చేయడానికి ఒక సాధనం / వేదిక. ఇది పెద్ద డేటా డేటాను విశ్లేషించడానికి ఒక సాధనం / వేదిక. మీరు చెప్పవచ్చు, అపాచీ పిగ్ అనేది మ్యాప్రెడ్యూస్పై సంగ్రహణ. జావాలో అంత బాగా లేని ప్రోగ్రామర్లు హడూప్లో పనిచేయడానికి చాలా కష్టపడ్డారు, ప్రధానంగా మ్యాప్రెడ్యూస్ ఉద్యోగాలు రాసేటప్పుడు.కాబట్టి, ఇది నేర్చుకోవలసిన మరియు నేర్చుకోవలసిన ముఖ్యమైన అంశం .అపాచీ పిగ్కు దాని స్వంత భాష ఉంది పిగ్ లాటిన్ ఇది పేద ప్రోగ్రామర్లకు వరం.
పిగ్ లాటిన్కు ప్రాథమిక పరిచయం మీకు బాగా అర్థం చేసుకోవడానికి సహాయపడుతుంది:
అపాచీ పిగ్ ప్లాట్ఫామ్లో ఉపయోగించే ఉన్నత-స్థాయి విధాన భాషను పిలుస్తారు పిగ్ లాటిన్ . అపాచీ పిగ్లో ‘పిగ్ లాటిన్’ ఉంది, ఇది హడూప్ ఫైల్ సిస్టమ్ (హెచ్డిఎఫ్ఎస్) లో పంపిణీ చేయబడిన డేటాసెట్లను అమలు చేయగల సాపేక్షంగా సరళమైన భాష. అపాచీ పిగ్లో, మీరు పిగ్ లాటిన్ భాషను ఉపయోగించి పిగ్ స్క్రిప్ట్లను వ్రాయాలి, ఇది మీ రన్ యు పిగ్ స్క్రిప్ట్ను అమలు చేసినప్పుడు మ్యాప్రెడ్యూస్ ఉద్యోగానికి మార్చబడుతుంది.. అపాచీ పిగ్లో వివిధ ఆపరేటర్లు ఉన్నారు, ఇవి డేటాను చదవడం, రాయడం, ప్రాసెస్ చేయడం వంటి పనులను నిర్వహించడానికి ఉపయోగిస్తారు. అపాచీ పిగ్ ఆపరేటర్ల గురించి తెలుసుకోవడానికి, మా బ్లాగుకు వెళ్లండి “ అపాచీ పిగ్లో ఆపరేటర్లు: పార్ట్ 1- రిలేషనల్ ఆపరేటర్లు ”.
ఇప్పుడు మీకు అపాచీ పిగ్ గురించి ప్రాథమిక అవగాహన ఉంది, లైనక్స్లో అపాచీ పిగ్ ఇన్స్టాలేషన్తో ప్రారంభిద్దాం.
లైనక్స్లో అపాచీ పిగ్ ఇన్స్టాలేషన్:
లైనక్స్లో అపాచీ పిగ్ ఇన్స్టాలేషన్ కోసం దశలు క్రింద ఉన్నాయి (లైనక్స్ VM ఉపయోగించి ఉబుంటు / సెంటోస్ / విండోస్). నేను దిగువ సెటప్లో ఉబుంటు 16.04 ని ఉపయోగిస్తున్నాను.
దశ 1: డౌన్లోడ్ పంది తారు ఫైల్.
ఆదేశం: wget http://www-us.apache.org/dist/pig/pig-0.16.0/pig-0.16.0.tar.gz
దశ 2: సంగ్రహించండి తారు తారు ఆదేశాన్ని ఉపయోగించి ఫైల్. దిగువ తారు ఆదేశంలో, x అంటే ఆర్కైవ్ ఫైల్ను సేకరించండి, తో అంటే జిజిప్ ద్వారా ఆర్కైవ్ను ఫిల్టర్ చేయండి, f అంటే ఆర్కైవ్ ఫైల్ యొక్క ఫైల్ పేరు.
ఆదేశం: tar -xzf pig-0.16.0.tar.gz
ఆదేశం: ls
c లో లింక్డ్ జాబితాను ఎలా తయారు చేయాలి
దశ 3: సవరించండి “ .bashrc అపాచీ పిగ్ యొక్క ఎన్విరాన్మెంట్ వేరియబుల్స్ను నవీకరించడానికి ఫైల్. మేము ఏ డైరెక్టరీ నుండి పందిని యాక్సెస్ చేయగలిగేలా దీన్ని సెట్ చేస్తున్నాము, పంది ఆదేశాలను అమలు చేయడానికి మేము పిగ్ డైరెక్టరీకి వెళ్లవలసిన అవసరం లేదు. అలాగే, మరేదైనా అప్లికేషన్ పిగ్ కోసం చూస్తున్నట్లయితే, అది ఈ ఫైల్ నుండి అపాచీ పిగ్ యొక్క మార్గాన్ని తెలుసుకుంటుంది.
ఆదేశం: sudo gedit .bashrc
ఫైల్ చివరిలో కింది వాటిని జోడించండి:
# PIG_HOME ని సెట్ చేయండి
ఎగుమతి PIG_HOME = / home / edureka / pig-0.16.0
ఎగుమతి PATH = $ PATH: /home/edureka/pig-0.16.0/bin
ఎగుమతి PIG_CLASSPATH = $ HADOOP_CONF_DIR
అలాగే, హడూప్ మార్గం కూడా సెట్ చేయబడిందని నిర్ధారించుకోండి.
మార్పులు ఒకే టెర్మినల్లో నవీకరించబడటానికి కమాండ్ క్రింద అమలు చేయండి.
ఆదేశం: మూలం .bashrc
దశ 4: పంది సంస్కరణను తనిఖీ చేయండి. అపాచీ పిగ్ సరిగ్గా ఇన్స్టాల్ చేయబడిందని పరీక్షించడానికి ఇది. ఒకవేళ, మీకు అపాచీ పిగ్ సంస్కరణ లభించకపోతే, మీరు పై దశలను సరిగ్గా పాటించారో లేదో ధృవీకరించాలి.
ఆదేశం: పిగ్ -వర్షన్
దశ 5 :అన్ని పిగ్ కమాండ్ ఎంపికలను చూడటానికి పంది సహాయాన్ని తనిఖీ చేయండి.
ఆదేశం: పంది-సహాయం
దశ 6 :గుసగుసలాడే షెల్ ప్రారంభించడానికి పిగ్ను అమలు చేయండి. పిగ్ లాటిన్ స్క్రిప్ట్లను అమలు చేయడానికి గుసగుసలాడే షెల్ ఉపయోగించబడుతుంది.
ఆదేశం: పంది
తోలుబొమ్మ చెఫ్ అన్సిబుల్ ఉప్పు పోలిక
మీరు పై చిత్రాన్ని సరిగ్గా చూస్తే, అపాచీ పిగ్లో రెండు మోడ్లు ఉన్నాయి, ఇందులో ఇది అమలు చేయగలదు, అప్రమేయంగా ఇది మ్యాప్రెడ్యూస్ మోడ్ను ఎంచుకుంటుంది. మీరు పిగ్ను అమలు చేయగల ఇతర మోడ్ లోకల్ మోడ్. దీని గురించి మరింత చెప్తాను.
అపాచీ పిగ్లో ఎగ్జిక్యూషన్ మోడ్లు:
- మ్యాప్రెడ్యూస్ మోడ్ - ఇది డిఫాల్ట్ మోడ్, దీనికి హడూప్ క్లస్టర్ మరియు HDFS ఇన్స్టాలేషన్కు ప్రాప్యత అవసరం. ఇది డిఫాల్ట్ మోడ్ కాబట్టి, -x ఫ్లాగ్ను పేర్కొనడం అవసరం లేదు (మీరు అమలు చేయవచ్చు పంది లేదా pig -x mapreduce ). ఈ మోడ్లోని ఇన్పుట్ మరియు అవుట్పుట్ HDFS లో ఉన్నాయి.
- స్థానిక స్థితి - ఒకే మెషీన్కు ప్రాప్యతతో, అన్ని ఫైల్లు ఇన్స్టాల్ చేయబడతాయి మరియు స్థానిక హోస్ట్ మరియు ఫైల్ సిస్టమ్ను ఉపయోగించి అమలు చేయబడతాయి. ఇక్కడ స్థానిక మోడ్ ‘-x ఫ్లాగ్’ ( పిగ్ -ఎక్స్ లోకల్ ). ఈ మోడ్లోని ఇన్పుట్ మరియు అవుట్పుట్ స్థానిక ఫైల్ సిస్టమ్లో ఉన్నాయి.
ఆదేశం: పిగ్ -ఎక్స్ లోకల్
లైనక్స్లో అపాచీ పిగ్ ఇన్స్టాలేషన్ చూడటానికి మీరు ఈ క్రింది వీడియో ద్వారా వెళ్ళవచ్చు:
అపాచీ పిగ్ సంస్థాపన | Linux లో పిగ్ ఇన్స్టాలేషన్ | ఎడురేకా
ఇప్పుడు మీరు లైనక్స్లో అపాచీ పిగ్ ఇన్స్టాలేషన్తో పూర్తి చేసారు, తదుపరి దశ పిగ్ గ్రంట్ షెల్లో కొన్ని రిలేషనల్ పిగ్ ఆపరేటర్లను ప్రయత్నించడం. అందువల్ల, తదుపరి బ్లాగ్ “ అపాచీ పిగ్లో ఆపరేటర్లు: పార్ట్ 1- రిలేషనల్ ఆపరేటర్లు పిగ్ ఆపరేటర్లను నేర్చుకోవటానికి మీకు సహాయం చేస్తుంది.
ఇప్పుడు మీరు Linux లో అపాచీ పిగ్ను ఇన్స్టాల్ చేసారు, చూడండి ప్రపంచవ్యాప్తంగా విస్తరించి ఉన్న 250,000 మందికి పైగా సంతృప్తికరమైన అభ్యాసకుల నెట్వర్క్తో విశ్వసనీయ ఆన్లైన్ లెర్నింగ్ సంస్థ ఎడురేకా చేత. రిటైల్, సోషల్ మీడియా, ఏవియేషన్, టూరిజం, ఫైనాన్స్ డొమైన్లో రియల్ టైమ్ యూజ్ కేసులను ఉపయోగించి హెచ్డిఎఫ్ఎస్, నూలు, మ్యాప్రెడ్యూస్, పిగ్, హైవ్, హెచ్బేస్, ఓజీ, ఫ్లూమ్ మరియు స్కూప్లో నిపుణులు కావడానికి ఎడురేకా బిగ్ డేటా హడూప్ సర్టిఫికేషన్ ట్రైనింగ్ కోర్సు సహాయపడుతుంది.
మాకు ప్రశ్న ఉందా? దయచేసి దీన్ని వ్యాఖ్యల విభాగంలో పేర్కొనండి మరియు మేము మిమ్మల్ని సంప్రదిస్తాము.