期刊文献+
共找到1篇文章
< 1 >
每页显示 20 50 100
中药材行情数据的并行爬取方案 被引量:1
1
作者 苏健光 赵颖 +3 位作者 文武 胡宏蕾 庞锐华 陆钊 《信息技术与信息化》 2018年第4期27-30,共4页
随着互联网的快速发展,中药材数据信息量和相关服务也随之快速增长,准确地爬取所需要的信息变得越来越重要,因此互联网各种信息收集将面临着巨大的挑战和机遇。通过对中药材行情数据的研究,采用Scrapy框架下的分布式网络爬虫系统将原有... 随着互联网的快速发展,中药材数据信息量和相关服务也随之快速增长,准确地爬取所需要的信息变得越来越重要,因此互联网各种信息收集将面临着巨大的挑战和机遇。通过对中药材行情数据的研究,采用Scrapy框架下的分布式网络爬虫系统将原有的爬虫系统框架与Redis结合进行改进,然后将从网上爬取到的中药材行情数据信息存入MongoDB中,便于对数据进一步的处理和分析。结果表明基于Scrapy下的分布式网络爬虫系统在数据挖掘与数据处理方面都很高效稳定。 展开更多
关键词 中药材行情数据 网络爬虫 Scrapy
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部