HadoopからMongoDBのデータ(BSON)にアクセスする

米国を中心に、オンライン処理はMongoDB、バッチ処理はHadoopという組み合わせが非常にポピュラーになってきている印象である。従来からMongoDB Connector for Hadoopを使うことでHadoopからMongoDBに直接アクセスすることは可能だったが、つい先日、単なる MongoDBのデータ(BSONフォーマットのファイル)がHadoopから読み込めるようになった(また、HadoopのoutputとしてBSON 形式のファイルを使用することも同時に可能になった)。

これはMongoDBのデータベースファイルではなく、mongodumpを使ってダンプされる純粋なBSONファイルであることに注意が必要だ。つまり、HadoopがBSONファイルを読むときには、MongoDBで設定したインデックス等は使用されない。単にデータの塊があり、そのフォーマットがBSONである場合でもHadoopで処理できますよ、ということだ。そのため、条件を指定したデータのみ処理したい場合には、あらかじめ mongodumpする段階でクエリを実行し、目的のデータのみBSONとして取り出しておくとよいと考えられる。

Hadoopが読み込む際には、大きなBSONファイルは当然複数にsplitされる。これがHadoopのウリであり、分散処理が可能となる。試してみた感じでは、分割に使用される一時ファイルなどが入力BSONファイルと同じディレクトリ上に勝手に生成されるようなので、Hadoopが異常終了した際などにはゴミとならないように注意が必要だと思われる。

今回の機能追加によって、MongoDBそのものを稼働させることなく(つまりCPUとメモリのリソースなしで)、MongoDBに溜めたデータを Hadoopで処理できるようになった。これは個人的に非常に大きな可能性を感じさせる進化だ。

Hadoopを夜間等、バッチで走らせる場合、直接MongoDBにアクセスさせてしまうと、複数のノードからのアクセスがMongoDBに集中することで負荷が急激に上がり、オンラインアプリケーション側に影響が出てしまう可能性があった。また、当然HadoopとMongoDBがネットワーク的に繋がっている必要があった。しかし事前に必要な情報のみmongodumpで取り出し、S3等のHadoop処理を行う環境に置いておくことで、低い管理コストでこの課題が解決できるようになった。Amazon EMRはまさにこの使用方法にぴったりのソリューションである。

また、半構造化されたデータをHadoopの出力として用いたい場合にBSONを選択すれば、これをまたMongoDBに戻し、オンライン処理で使うことができる。

試しにBSONに含まれるデータの単語を数えてみた。ソースコードは以下のとおりで、Hadoop1.0.3でテストした。MongoDBの Javaドライバと、MongoDB Connector for Hadoopの両方のjarファイルをクラスパスに含めておく必要がある。


import java.io.IOException;
import java.util.Iterator;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.NullWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapred.FileInputFormat;
import org.apache.hadoop.mapred.FileOutputFormat;
import org.apache.hadoop.mapred.JobClient;
import org.apache.hadoop.mapred.JobConf;
import org.apache.hadoop.mapred.MapReduceBase;
import org.apache.hadoop.mapred.Mapper;
import org.apache.hadoop.mapred.OutputCollector;
import org.apache.hadoop.mapred.Reducer;
import org.apache.hadoop.mapred.Reporter;
import org.apache.hadoop.mapred.TextOutputFormat;

import com.mongodb.hadoop.io.BSONWritable;
import com.mongodb.hadoop.mapred.BSONFileInputFormat;

public class WordCount {
	public static class Map extends MapReduceBase implements
			Mapper<NullWritable, BSONWritable, Text, IntWritable> {
		private final static IntWritable one = new IntWritable(1);

		public void map(NullWritable key, BSONWritable value,
				OutputCollector<Text, IntWritable> output, Reporter reporter)
				throws IOException {
			final java.util.Map valueMap = value.toMap();
			final Iterator p = valueMap.keySet().iterator();
			while( p.hasNext() )
				{
				final Object _key = p.next();
				if( _key.equals( "_id" ) )
					{
					continue;
					}
				final String[] array = ( valueMap.get( _key ) + "" ).split( "[^a-zA-Z0-9]+" );
				for( int i = 0; i < array.length; ++i )
					{
					output.collect(  new Text( array[ i ] ), one );				
					}
				}
			}
		}

	public static class Reduce extends MapReduceBase implements
			Reducer<Text, IntWritable, Text, IntWritable> {
		public void reduce(Text key, Iterator<IntWritable> values,
				OutputCollector<Text, IntWritable> output, Reporter reporter)
				throws IOException {
			int sum = 0;
			while (values.hasNext()) {
				sum += values.next().get();
			}
			output.collect(key, new IntWritable(sum));
		}
	}

	public static void main(String[] args) throws Exception {
		JobConf conf = new JobConf(WordCount.class);
		conf.setJobName("wordcount");

		conf.setOutputKeyClass(Text.class);
		conf.setOutputValueClass(IntWritable.class);

		conf.setMapperClass(Map.class);
		conf.setReducerClass(Reduce.class);

		conf.setInputFormat( BSONFileInputFormat.class );
		conf.setOutputFormat(TextOutputFormat.class);

		FileInputFormat.setInputPaths(conf, new Path(args[0]));
		FileOutputFormat.setOutputPath(conf, new Path(args[1]));

		JobClient.runJob(conf);
	}
}
Advertisements


Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s