Oozie Java Działanie: Przekazywanie ścieżki klasy Hbase

Question

Używam programu java test hbase za pośrednictwem oozie java action. Poniższy napotkania błędu:

Failing Oozie Launcher, Main class [HbaseTest], main() threw exception, org/apache/hadoop/hbase/HBaseConfiguration 
java.lang.NoClassDefFoundError: org/apache/hadoop/hbase/HBaseConfiguration 
at HbaseTest.main(HbaseTest.java:28) 
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) 
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39) 
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25) 
at java.lang.reflect.Method.invoke(Method.java:597) 
at org.apache.oozie.action.hadoop.LauncherMapper.map(LauncherMapper.java:495) 
at org.apache.hadoop.mapred.MapRunner.run(MapRunner.java:50) 
at org.apache.hadoop.mapred.MapTask.runOldMapper(MapTask.java:417) 
at org.apache.hadoop.mapred.MapTask.run(MapTask.java:332) 
at org.apache.hadoop.mapred.Child$4.run(Child.java:268) 
at java.security.AccessController.doPrivileged(Native Method) 
at javax.security.auth.Subject.doAs(Subject.java:396) 
at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1438) 
at org.apache.hadoop.mapred.Child.main(Child.java:262) 
Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.hbase.HBaseConfiguration 
at java.net.URLClassLoader$1.run(URLClassLoader.java:202) 
at java.security.AccessController.doPrivileged(Native Method) 
at java.net.URLClassLoader.findClass(URLClassLoader.java:190) 
at java.lang.ClassLoader.loadClass(ClassLoader.java:306) 
at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:301) 
at java.lang.ClassLoader.loadClass(ClassLoader.java:247) 
... 14 more 

Program działa poprawnie z wiersza poleceń:

java -cp `hbase classpath` HbaseTest 

Czy istnieje sposób mogę przekazać wyjście „ścieżce klasy HBase” do działania oozie java. Nie chcę kopiować słoików hbase do katalogu lib przepływu pracy, ponieważ będzie to obciążenie związane z konserwacją.

Poniżej działanie java od workflow.xml:

<java> 
     <job-tracker>${jobTracker}</job-tracker> 
     <name-node>${nameNode}</name-node> 
     <configuration> 
      <property> 
       <name>mapred.job.queue.name</name> 
       <value>${queueName}</value> 
      </property> 
     </configuration> 
     <main-class>HbaseTest</main-class> 
     <java-opts></java-opts> 
     <arg>HELLO</arg> 
    </java> 

Answer 1

Od Oozie 2.3 można użyć Share Biblioteki:

Oozie obsługuje biblioteki udostępnianie pracy i system pracy workflow.

Udostępnianie bibliotek może uprościć wdrażanie i zarządzanie wspólnymi komponentami w aplikacjach przepływu pracy.

Na przykład, jeśli zlecenie przepływu pracy korzysta z biblioteki współużytkowania z plikami JAR Harvey, nie musi wiązać tych plików JAR w aplikacji/ścieżce aplikacji workflow.

Jeśli zadanie przepływu pracy korzysta z biblioteki współużytkowania, Oozie będzie zawierało wszystkie pliki JAR/SO w bibliotece we ścieżce classpath/libpath dla wszystkich jej działań.

Zadanie przepływu pracy może określić ścieżkę do biblioteki współużytkowania za pomocą właściwości zadania oozie.libpath.

Zadanie przepływu pracy może korzystać z biblioteki udziału systemowego, ustawiając właściwość job oozie.use.system.libpath na true.

http://oozie.apache.org/docs/3.2.0-incubating/WorkflowFunctionalSpec.html#a17_HDFS_Share_Libraries_for_Workflow_Applications_since_Oozie_2.3

Jak zainstalować: http://oozie.apache.org/docs/4.0.0/DG_QuickStart.html#OozieShareLib