Node.js+jade+mongodb+mongoose实现爬虫分离入库与生成静态文件的方法

接着这篇文章node.js+jade抓取博客所有文章生成静态html文件的实例继续，在这篇文章中实现了采集与静态文件的生成，在实际的采集项目中， 应该是先入库再选择性的生成静态文件。

那么我选择的数据库是mongodb,为什么用这个数据库，因为这个数据库是基于集合，数据的操作基本是json，与dom模块cheerio具有非常大的亲和力，cheerio处理过滤出来的数据，可以直接插入mongodb,不需要经过任何的处理，非常的便捷，当然跟node.js的亲和力那就不用说了，更重要的是，性能很棒。这篇文章我就不具体写mongodb的基本用法，到时候会另起文章从0开始写mongodb基本常用用法.先看下入库的效果与生成静态文件的效果:

我在这个阶段，把爬虫分离成2个模块，采集入库( crawler.js ), 生成静态文件(makehtml.js).

crawler.js：

var http = require('http');
var cheerio = require('cheerio');
var mongoose = require('mongoose');
mongoose.promise = global.promise;
var db_url = 'mongodb://localhost:27017/crawler';

var alist = []; //博客文章列表信息
var aurl = []; //博客所有的文章url

var db = mongoose.createconnection(db_url);
db.on('connected', function (err) {
 if (err) {
  console.log(err);
 } else {
  console.log('db connected success');
 }
});
var schema = mongoose.schema;
var arcschema = new schema({
 id: number, //文章id
 title: string, //文章标题
 url: string, //文章链接
 body: string, //文章内容
 entry: string, //摘要
 listtime: date //发布时间
});
var article = db.model('article', arcschema);

function savearticle(arcinfo) {
 var arcmodel = new article(arcinfo);
 arcmodel.save(function (err, result) {
  if (err) {
   console.log(err);
  } else {
   console.log(`${arcinfo['title']} 插入成功`);
  }
 });
}

function filterarticle(html) {
 var $ = cheerio.load(html);
 var arcdetail = {};
 var title = $("#cb_post_title_url").text();
 var href = $("#cb_post_title_url").attr("href");
 var re = /\/(\d+)\.html/;
 var id = href.match(re)[1];
 var body = $("#cnblogs_post_body").html();
 return {
  id: id,
  title: title,
  url: href,
  body: body
 };
}

function crawlerarc(url) {
 var html = '';
 var str = '';
 var arcdetail = {};
 http.get(url, function (res) {
  res.on('data', function (chunk) {
   html += chunk;
  });
  res.on('end', function () {
   arcdetail = filterarticle(html);
   savearticle(arcdetail);
   if ( aurl.length ) {
    settimeout(function () {
     if (aurl.length) {
      crawlerarc(aurl.shift());
     }
    }, 100);
   }else {
    console.log( '采集任务完成' );
    return;
   }
  });
 });
}

function filterhtml(html) {
 var $ = cheerio.load(html);
 var arclist = [];
 var apost = $("#content").find(".post-list-item");
 apost.each(function () {
  var ele = $(this);
  var title = ele.find("h2 a").text();
  var url = ele.find("h2 a").attr("href");
  ele.find(".c_b_p_desc a").remove();
  var entry = ele.find(".c_b_p_desc").text();
  ele.find("small a").remove();
  var listtime = ele.find("small").text();
  var re = /\d{4}-\d{2}-\d{2}\s*\d{2}[:]\d{2}/;
  listtime = listtime.match(re)[0];

  arclist.push({
   title: title,
   url: url,
   entry: entry,
   listtime: listtime
  });
 });
 return arclist;
}

function nextpage(html) {
 var $ = cheerio.load(html);
 var nexturl = $("#pager a:last-child").attr('href');
 if (!nexturl) return getarcurl(alist);
 var curpage = $("#pager .current").text();
 if (!curpage) curpage = 1;
 var nextpage = nexturl.substring(nexturl.indexof('=') + 1);
 if (curpage < nextpage) crawler(nexturl);
}

function crawler(url) {
 http.get(url, function (res) {
  var html = '';
  res.on('data', function (chunk) {
   html += chunk;
  });
  res.on('end', function () {
   alist.push(filterhtml(html));
   nextpage(html);
  });
 });
}

function getarcurl(arclist) {
 for (var key in arclist) {
  for (var k in arclist[key]) {
   aurl.push(arclist[key][k]['url']);
  }
 }
 crawlerarc(aurl.shift());
}

var url = 'http://www.cnblogs.com/ghostwu/';
crawler(url);

其他的核心模块没有怎么改动，主要增加了数据库连接，数据库创建，集合创建( 集合相当于关系型数据库中的表 )，schema( 相当于关系型数据库的表结构 ).

mongoose操作数据库( save:插入数据 ).分离了文件生成模块.

makehtml.js文件

var fs = require('fs');
var jade = require('jade');

var mongoose = require('mongoose');
mongoose.promise = global.promise;
var db_url = 'mongodb://localhost:27017/crawler';

var allarc = [];
var count = 0;

var db = mongoose.createconnection(db_url);
db.on('connected', function (err) {
 if (err) {
  console.log(err);
 } else {
  console.log('db connected success');
 }
});
var schema = mongoose.schema;
var arcschema = new schema({
 id: number, //文章id
 title: string, //文章标题
 url: string, //文章链接
 body: string, //文章内容
 entry: string, //摘要
 listtime: date //发布时间
});
var article = db.model('article', arcschema);

function makehtml(arcdetail) {
 str = jade.renderfile('./views/layout.jade', arcdetail);
 ++count;
 fs.writefile('./html/' + count + '.html', str, function (err) {
  if (err) {
   console.log(err);
  }
  console.log( `${arcdetail['id']}.html创建成功` + count );
  if ( allarc.length ){
   settimeout( function(){
    makehtml( allarc.shift() );
   }, 100 );
  }
 });
}

function getallarc(){
 article.find( {}, function( err, arcs ){
  allarc = arcs;
  makehtml( allarc.shift() );
 } ).sort( { 'id' : 1 } );
}
getallarc();

以上这篇node.js+jade+mongodb+mongoose实现爬虫分离入库与生成静态文件的方法就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持。