Google资深工程师深度讲解Go语言-爬虫实战项目(十三)

Google资深工程师深度讲解Go语言-爬虫实战项目(十三)

大家好,又见面了,我是全栈君。

一.为什么做爬虫项目

  • 有一定复杂性
  • 可以灵活调整醒目的复杂性
  • 平衡语言/爬虫之间的比重

二.网络爬虫分类

  • 通用爬虫:baidu,google
  • 聚焦爬虫:从互联网获取结构化数据(知乎)

三.项目总体结构

Google资深工程师深度讲解Go语言-爬虫实战项目(十三)

四.go语言的爬虫库/框架

Google资深工程师深度讲解Go语言-爬虫实战项目(十三)

本课程主要:

  1. 将不适用现成爬虫库/框架
  2. 使用elasticSearch作为数据存储
  3. 使用go语言标准模板实现http数据展示部分

爬取内容:内容:新闻,播客,社区

爬取人:

  • qq空间,人人网,微博,Facebook;
  • 相亲网站,求职网站,出于隐私和趣味性,本课程爬取相亲网站

Google资深工程师深度讲解Go语言-爬虫实战项目(十三)

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/111685.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号