2013-06-06 7 views
5

Używam programu MapReduce. Muszę podać wejściowy plik tekstowy w formacie pary KEYVALUE. tak, że jeśli piszęBłąd w ustawianiu job.setInputFormatClass w Mapreduce

job.setInputFormatClass(KeyValueTextInputFormat.class); 

Kompilator Eclipse jest pokazujące błąd, że nie mogę używać InputFormat. w każdym razie muszę ustawić format wejściowy jako KeyValueTextInputFormat Jak to zrobić? Dowolny pomysł ?????

mój kod jest

`

package com.iot.dictionary; 

import java.io.IOException; 

import org.apache.hadoop.conf.Configuration; 
import org.apache.hadoop.fs.Path; 
import org.apache.hadoop.io.Text; 
import org.apache.hadoop.mapred.KeyValueTextInputFormat; 
import org.apache.hadoop.mapreduce.Job; 
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat; 
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat; 
import org.apache.hadoop.util.GenericOptionsParser; 


import com.iot.dictionary.Dictionary.AllTranslationsReducer; 
import com.iot.dictionary.Dictionary.WordMapper; 
public class Driver2 { 
public static void main(String[] args) throws IOException, ClassNotFoundException, InterruptedException { 
    Configuration conf = new Configuration(); 

     String[] otherArgs = new GenericOptionsParser(conf, args).getRemainingArgs(); 
     if (otherArgs.length != 2) { 
      System.err.println("Usage: wordcount <in> <out>"); 
      System.exit(2); 
     } 
     Job job = new Job(conf, "dictionary"); 
     System.out.println("Job-> "+job.toString()); 
     job.setJarByClass(Dictionary.class); 
     job.setMapperClass(WordMapper.class); 
     job.setReducerClass(AllTranslationsReducer.class); 
     job.setOutputKeyClass(Text.class); 
     job.setOutputValueClass(Text.class); 
     job.setInputFormatClass(KeyValueTextInputFormat.class); 
     FileInputFormat.addInputPath(job, new Path(otherArgs[0])); 
     FileOutputFormat.setOutputPath(job, new Path(otherArgs[1])); 
     System.exit(job.waitForCompletion(true) ? 0 : 1); 
    } 
} 

`

Odpowiedz

9

Jeśli używasz nowego Hadoop API (Hadoop 0.20.2 i wyżej), musisz zaimportować klasę KeyValueTextInputFormat.class od pakiet org.apache.hadoop.mapreduce.lib.input.KeyValueTextInputFormat i jeśli używasz starego interfejsu API Hadoop, musisz zaimportować go z pliku org.apache.hadoop.mapred.KeyValueTextInputFormat

Widzisz tę linię w kodzie:

import org.apache.hadoop.mapred.KeyValueTextInputFormat; 

Zmień go

import org.apache.hadoop.mapreduce.lib.input.KeyValueTextInputFormat; 

nadzieję, że to pomaga.

Dzięki

+0

dzięki, nawet jeśli importuję, otrzymuję ten sam błąd kompilatora! Jak ustawić KeyValueInputFormat do pracy? – Sri

+0

Edytuj pytanie i podaj podstawowy kod, którego używasz wraz z importowanymi pakietami. –

+0

Jak się domyślałem, problem z importowaniem pakietów. Zmieniłem moją odpowiedź, spójrz. Dzięki. –