Golang net/http 爬虫[1]

上周从零学习了golang，语法简单关键字少，写个爬虫熟悉一下语法结构。

创新互联坚持“要么做到，要么别承诺”的工作理念，服务领域包括：成都网站设计、网站制作、外贸营销网站建设、企业官网、英文网站、手机端网站、网站推广等服务，满足客户于互联网时代的镶黄网站设计、移动媒体设计的需求，帮助企业找到有效的互联网解决方案。努力成为您成熟可靠的网络建设合作伙伴！

首先选用了原生的net/http包，基本上涵盖了所有的get/post请求，各种参数都可以设置，网上google到html页面解析goquery神器，很轻松就可以解决页面解析问题。

首先就写了个爬取汇率的爬虫。然后重写之前php的一个请求类，请求类的逻辑有点混乱不清晰，往往把两个不同的功能合并到一起写，粒度大，后来发现了一个好用的框架——colly，之后再试试好不好用

Windows 10 Golang

依赖包：goquery

较常用的方法有Find和Each

爬取中国银行的汇率牌价表，golang依赖net/http包和goquery包

唯一的难点是对于goquery方法的使用，需要阅读官方文档：

使用原生的net/http包基本上可以解决大多数的网页请求，使用goquery可以解决页面解析问题

可以利用golang的协程特性进行异步多协程爬取

增加安全性可以通过几个方面进行改进：

1.首先可以限制爬虫的爬取速度

2.每次对网页的请求都随机选用一个客户端

3.选用IP代理池，防止IP误封（及限制ip访问次数）

构造请求代理ip网站的链接→获取网页内容→ 提取网页中IP地址和端口号→验证IP的有效性并存储

轻量级反爬虫方案

浅谈JSP

golang带json的Http请求

Get/Post

HTTP请求中的Form Data和Request Payload的区别

HTTP Json请求

net/http：

golang HTTP操作

python建立爬虫代理ip池

爬虫黑科技之让你的爬虫程序更像人类用户的行为

特点：事件监听，通过callback执行事件处理

基于colly开发的web管理界面

Go语言的开源项目

1．Docker项目

网址为 。

介绍：Docker是一种操作系统层面的虚拟化技术，可以在操作系统和应用程序之间进行隔离，也可以称之为容器。Docker可以在一台物理服务器上快速运行一个或多个实例。例如，启动一个Cent OS操作系统，并在其内部命令行执行指令后结束，整个过程就像自己在操作系统一样高效。

2．golang项目

网址为 。

介绍：Go语言的早期源码使用C语言和汇编语言写成。从Go 1.5版本自举后，完全使用Go语言自身进行编写。Go语言的源码对了解Go语言的底层调度有极大的参考意义，建议希望对Go语言有深入了解的读者读一读。

3．Kubernetes项目

网址为 。

介绍：Google公司开发的构建于Docker之上的容器调度服务，用户可以通过Kubernetes集群进行云端容器集群管理。

4．etcd项目

网址为 。

介绍：一款分布式、可靠的KV存储系统，可以快速进行云配置。

5．beego项目

网址为 。

介绍：beego是一个类似Python的Tornado框架，采用了RESTFul的设计思路，使用Go语言编写的一个极轻量级、高可伸缩性和高性能的Web应用框架。

6．martini项目

网址为 。

介绍：一款快速构建模块化的Web应用的Web框架。

7．codis项目

网址为 Labs/codis。

介绍：国产的优秀分布式Redis解决方案。

8．delve项目

网址为 。

介绍：Go语言强大的调试器，被很多集成环境和编辑器整合。

百度云网盘爬虫

10.1无聊写的百度网盘爬虫

源码：   这是golang源码 说明里面也有java源码

一共爬了1100w数据做的网盘搜索网站

文章名称：go语言网络爬虫源码 go爬虫框架排行
分享链接：http://csdahua.cn/article/doeiehg.html