Hadoop関連メモ 2
業務メモ。 適当にスルーしてください。 SequenceFile SequenceFileは、<key, value>形式でデータを保持する。 テキストをそのままMapで読み込むと、keyにバイトオフセット、valueに入力テキストが入るが、SequenceFile形式だとkey, valueをそのままMapの入力とすることができる。 また、圧縮していても各ノードに分散される(gzipは分散されない)。 hadoop fs -textとすれば、コマンドラインからテキスト形式で内容を出…