17.7.1 Hadoopのメッセージとその対処

出力頻度の高いHadoopのメッセージとその対処について説明します。Hadoopのメッセージは、JobClientの端末または「17.4.3 ログファイルの一覧」で示したログファイルに出力されます。

参照

P-DFS関連のメッセージについては、「Primesoft Distributed File System for Hadoop V1 ユーザーズガイド」を参照してください。

ERROR security.UserGroupInformation: PriviledgedActionException as:<ジョブ実行ユーザ> cause:org.apache.hadoop.mapred.FileAlreadyExistsException: Output directory <出力ディレクトリ名> already exists

【メッセージの意味】

Hadoopジョブに指定した出力ディレクトリがすでに存在しています。

【対処方法】

指定する出力ディレクトリを変更するか、既存のディレクトリを削除してください。

WARN No appenders could be found for logger

【メッセージの意味】

Hadoopがorg.apache.hadoop.mapred.Childのjavaプロセスを回収する際に、ログの書き込みを依頼する側のスレッドよりも先に、依頼を受けてログを書き込む側のスレッドが終了した場合に出力されます。

【対処方法】

無視してください。プロセス終了時であるため問題ありません。

java.io.IOException: org.apache.hadoop.security.authorize.AuthorizationException: MapReduce user authorization fail.

【メッセージの意味】

Hadoopジョブを、UIDが500以下のユーザで実行した場合に出力されます。

【対処方法】

Hadoopジョブは、UIDが501以上のユーザで実行してください。

INFO org.apache.hadoop.mapred.TaskInProgress: Error from <タスク試行ID>: <タスク試行ID> failed to report status for 600 seconds. Killing!

【メッセージの意味】

org.apache.hadoop.mapred.Childのjavaプロセスが600秒(10分)の間、データの読み書きやカウンターの更新などの活動が見られなかった場合に出力され、MapReduceアプリケーションがハングアップしたとみなしてタスク試行が強制停止されます。

【対処方法】

Hadoopジョブに指定したMapReduceアプリケーションの処理を見なおしてください。

INFO org.apache.hadoop.mapred.TaskInProgress: TaskInProgress <タスクID> has failed 4 times.

【メッセージの意味】

タスクの試行が4回失敗したため、タスクが失敗しました。

【対処方法】

Hadoopジョブに指定したMapReduceアプリケーションの処理を見なおしてください。または、Hadoopジョブ実行中にスレーブサーバに異常が発生していなかったかを確認してください。

WARN org.apache.hadoop.mapred.TaskRunner: <タスク試行ID> : Child Error java.io.IOException: Task process exit with nonzero status of 126

【メッセージの意味】

Hadoopの既知の問題により、タスク試行プロセスが起動できなかった場合に出力されます。

【対処方法】

無視してください。タスク試行プロセスは、即時に再実行されます。

ERROR org.mortbay.log: Error for /mapOutput java.lang.OutOfMemoryError: Java heap space

【メッセージの意味】

TaskTrackerのJava Heapが不足した場合に出力されます。

【対処方法】

スレーブサーバで、/etc/hadoop/hadoop-env.shのHADOOP_TASKTRACKER_OPTSの-Xmxオプションの値を増やした後、全スレーブサーバにコピーし、本製品を再起動してください。

org.apache.hadoop.mapred.JobClient.*のjava.lang.OutOfMemoryError: Java heap space

【メッセージの意味】

JobClientのJava Heapが不足した場合に出力されます。

【対処方法】

開発実行環境サーバで/etc/hadoop/hadoop-env.shのHADOOP_CLIENT_OPTSの末尾に-Xmxオプションを指定し、Java Heapのサイズを増やしてアプリケーションを再実行してください。

org.apache.hadoop.mapred.Child.mainのjava.lang.OutOfMemoryErro r: Java heap space

【メッセージの意味】

タスク試行プロセスのJava Heapが不足した場合に出力されます。

【対処方法】

スレーブサーバで/etc/hadoop/mapred-site.xmlのmapred.child.java.opts -Xmxオプションの値を増やした後、全スレーブサーバにコピーし本製品を再起動してください。

java.io.IOException: Split metadata size exceeded 10000000

【メッセージの意味】

JobTrackerのタスク管理領域サイズの制限を超えた場合に出力されます。

【対処方法】

マスターサーバで/etc/hadoop/mapred-site.xmlにmapreduce.jobtracker.split.metainfo.maxsizeプロパティを追加し、10000000以上の値を指定して本製品を再起動してください。