MongoDB012MongoDB之MapReduce

文章来源:http://blog.csdn.net/qimiguang/article/details/8267008

MongoDB MapReduce

上面是MapReduce的理论部分&＃xff0c;下面说实际的应用&＃xff0c;下面以MongoDB MapReduce为例说明。

下面是MongoDB官方的一个例子&＃xff1a;

> db.things.insert( { _id : 1, tags : [&＃39;dog&＃39;, &＃39;cat&＃39;] } );
> db.things.insert( { _id : 2, tags : [&＃39;cat&＃39;] } );
> db.things.insert( { _id : 3, tags : [&＃39;mouse&＃39;, &＃39;cat&＃39;, &＃39;dog&＃39;] } );
> db.things.insert( { _id : 4, tags : [] } );> // map function
> map &＃61; function(){
... this.tags.forEach(
... function(z){
... emit( z , { count : 1 } );
... }
... );
...};> // reduce function
> reduce &＃61; function( key , values ){
... var total &＃61; 0;
... for ( var i&＃61;0; i... total &＃43;&＃61; values[i].count;
... return { count : total };
...};db.things.mapReduce(map,reduce,{out:&＃39;tmp&＃39;})
{"result" : "tmp","timeMillis" : 316,"counts" : {"input" : 4,"emit" : 6,"output" : 3},"ok" : 1,
}
> db.tmp.find()
{ "_id" : "cat", "value" : { "count" : 3 } }
{ "_id" : "dog", "value" : { "count" : 2 } }
{ "_id" : "mouse", "value" : { "count" : 1 } }

例子很简单&＃xff0c;计算一个标签系统中每个标签出现的次数。

这里面&＃xff0c;除了emit函数之外&＃xff0c;所有都是标准的js语法,这个emit函数是非常重要的&＃xff0c;可以这样理解&＃xff0c;当所有需要计算的文档&＃xff08;因为在mapReduce时&＃xff0c;可以对文档进行过滤&＃xff0c;接下来会讲到&＃xff09;执行完了map函数&＃xff0c;map函数会返回key_values对&＃xff0c;key即是emit中的第一个参数key&＃xff0c;values是对应同一key的emit的n个第二个参数组成的数组。这个key_values会作为参数传递给reduce&＃xff0c;分别作为第1.2个参数。

reduce函数的任务就是将key-values变成key-value&＃xff0c;也就是把values数组变成一个单一的值value。当key-values中的values数组过大时&＃xff0c;会被再切分成很多个小的key-values块&＃xff0c;然后分别执行Reduce函数&＃xff0c;再将多个块的结果组合成一个新的数组&＃xff0c;作为Reduce函数的第二个参数&＃xff0c;继续Reducer操作。可以预见&＃xff0c;如果我们初始的values非常大&＃xff0c;可能还会对第一次分块计算后组成的集合再次Reduce。这就类似于多阶的归并排序了。具体会有多少重&＃xff0c;就看数据量了。

reduce一定要能被反复调用&＃xff0c;不论是映射环节还是前一个简化环节。所以reduce返回的文档必须能作为reduce的第二个参数的一个元素。

&＃xff08;当书写Map函数时&＃xff0c;emit的第二个参数组成数组成了reduce函数的第二个参数&＃xff0c;而Reduce函数的返回值&＃xff0c;跟emit函数的第二个参数形式要一致&＃xff0c;多个reduce函数的返回值可能会组成数组作为新的第二个输入参数再次执行Reduce操作。&＃xff09;

MapReduce函数的参数列表如下&＃xff1a;

db.runCommand({ mapreduce : ,map : ,reduce : [, query : ][, sort : ][, limit : ][, out : ][, keeptemp: ][, finalize : ][, scope : ][, verbose : true]}
);
或者这么写&＃xff1a;

db.collection.mapReduce(<map>,<reduce>,{<out>,<query>,<sort>,<limit>,, <finalize>,<scope>,<jsMode>,<verbose>})

• mapreduce&＃xff1a;指定要进行mapreduce处理的collection
  
• map&＃xff1a;map函数
• reduce&＃xff1a;reduce函数
• out&＃xff1a;输出结果的collection的名字&＃xff0c;不指定会默认创建一个随机名字的collection&＃xff08;如果使用了out选项&＃xff0c;就不必指定keeptemp&＃xff1a;true了&＃xff0c;因为已经隐含在其中了&＃xff09;
• query&＃xff1a;一个筛选条件&＃xff0c;只有满足条件的文档才会调用map函数。&＃xff08;query。limit&＃xff0c;sort可以随意组合&＃xff09;
• sort&＃xff1a;和limit结合的sort排序参数&＃xff08;也是在发往map函数前给文档排序&＃xff09;&＃xff0c;可以优化分组机制
• limit&＃xff1a;发往map函数的文档数量的上限&＃xff08;要是没有limit&＃xff0c;单独使用sort的用处不大&＃xff09;
• keytemp&＃xff1a;true或false&＃xff0c;表明结果输出到的collection是否是临时的&＃xff0c;如果想在连接关闭后仍然保留这个集合&＃xff0c;就要指定keeptemp为true&＃xff0c;如果你用的是MongoDB的mongo客户端连接&＃xff0c;那必须exit后才会删除。如果是脚本执行&＃xff0c;脚本退出或调用close会自动删除结果collection
• finalize&＃xff1a;是函数&＃xff0c;它会在执行完map、reduce后再对key和value进行一次计算并返回一个最终结果&＃xff0c;这是处理过程的最后一步&＃xff0c;所以finalize就是一个计算平均数&＃xff0c;剪裁数组&＃xff0c;清除多余信息的恰当时机
• scope&＃xff1a;Javascript代码中要用到的变量&＃xff0c;在这里定义的变量在map&＃xff0c;reduce&＃xff0c;finalize函数中可见
• verbose&＃xff1a;用于调试的详细输出选项&＃xff0c;如果想看MpaReduce的运行过程&＃xff0c;可以设置其为true。也可以print把map&＃xff0c;reduce&＃xff0c;finalize过程中的信息输出到服务器日志上。

执行MapReduce函数返回的文档结构如下&＃xff1a;

  { result : ,

    timeMillis : , 

    counts : {

               input : ,

               emit : ,

               output :

     } ,

     ok : <1_if_ok>,

     [, err : ]

}

• result&＃xff1a;储存结果的collection的名字,这是个临时集合&＃xff0c;MapReduce的连接关闭后自动就被删除了。
• timeMillis&＃xff1a;执行花费的时间&＃xff0c;毫秒为单位
• input&＃xff1a;满足条件被发送到map函数的文档个数
• emit&＃xff1a;在map函数中emit被调用的次数&＃xff0c;也就是所有集合中的数据总量
• ouput&＃xff1a;结果集合中的文档个数&＃xff08;count对调试非常有帮助&＃xff09;
• ok&＃xff1a;是否成功&＃xff0c;成功为1
• err&＃xff1a;如果失败&＃xff0c;这里可以有失败原因&＃xff0c;不过从经验上来看&＃xff0c;原因比较模糊&＃xff0c;作用不大