你没有看错,爬网页数据,C#也可以像Jquery那样

一:背景

成都创新互联公司是专业的南通网站建设公司,南通接单;提供网站建设、网站设计,网页设计,网站设计,建网站,PHP网站建设等专业做网站服务;采用PHP框架,可快速的进行南通网站开发网页制作和功能扩展;专业做搜索引擎喜爱的网站,专业的做网站团队,希望更多企业前来合作!

1. 讲故事

前段时间搞了一个地方性民生资讯号,资讯嘛,都是我抄你的,你抄官媒的,小市民都喜欢奇闻异事,所以就存在一个需求,如何去定向抓取奇闻异事的地方号上的新闻,其实做起来很简单,用逻辑回归即可,这篇主要讨论如何去抓取,在 C# 中大家都知道抓取通用的库是 HtmlAgilityPack,但是这个库主流的做法是采用 xpath 提取网页内容,这就让我很不爽了,毕竟不熟悉莫名的抵抗哈,像我这个年纪的码农,被 Jquery 教育了至少 5-6 年,所以必须用 类Jquery 的方式,在 python 中有 pyquery 做这件事情,那在C# 中有没有类似的方式呢?嘿嘿,万能的 github 上还真有。。。就是本篇介绍的 CSQuery。

二:CSQuery

1. 安装

github的地址:https://github.com/zone117x/CsQuery 然后在vs中 nuget 一下即可:

2. 举几个例子

一切都准备就绪了,那怎么用呢?不着急,我以博客园举两个例子。

1) 将首页中的 友情连接 提取到

如上图,要想获取这里的 友情链接几个大字,直接用 text() 肯定是不行的,默认情况它会将所有的子节点的文本也会抓到,如下图:

那怎么处理呢?可以用 jquery 提供的 contents 方法,然后在获取的所有子节点中判断是否有 文本节点,最后获取文本节点的内容即可,如下代码:

用js是搞定了,那用 CSQuery 代码怎么搞定呢?模仿呗,如下代码:

 
 
 
 
  1. static void Main(string[] args) 
  2.         { 
  3.             var jquery = CQ.CreateDocument(new WebClient().DownloadString("http://cnblogs.com")); 
  4.  
  5.             var content = jquery["#friend_link"].Contents().Filter((dom) => 
  6.             { 
  7.                 return dom.NodeType == NodeType.TEXT_NODE; 
  8.             }).Text(); 
  9.  
  10.             Console.WriteLine(content); 
  11.         } 

我不知道用 xpath 提取这样的内容麻不麻烦,不过用 jquery 方式不简单,但轻车熟路。

2) 如何将 html 中的某些元素标颜色

有时候为了业务需要将某些 html 标签改一下颜色,比如说将首页的 tabmenu 中 博问 和 专区 改成红色,如下图:

那用 CSQuery 怎么处理呢?如果玩过 jquery,一般来说步骤如下:

  • 使用 each 遍历每一个子 li 标签
  • 使用 CSS 方法给 li 中 a 标签赋样式
  • 使用 Render 渲染生成一个新的的html

有了步骤,C#代码如下:

 
 
 
 
  1. static void Main(string[] args) 
  2.         { 
  3.             Config.HtmlEncoder = HtmlEncoders.None; 
  4.  
  5.             var jquery = CQ.CreateDocument(new WebClient().DownloadString("http://cnblogs.com")); 
  6.  
  7.             var html = jquery["#nav_left li"].Each(dom => 
  8.                { 
  9.                    var self = jquery[dom]; 
  10.  
  11.                    var text = self.Text(); 
  12.  
  13.                    if (text == "博问" || text == "专区") 
  14.                    { 
  15.                        self.Find("a").CssSet(new { color = "red" }); 
  16.                    } 
  17.                }).Render(); 
  18.         } 

3) 其他的操作方法

除了上面两个操作方法外,你还可以使用 after,before,replaceAll,IS 等等一百来个实用的方法,这篇肯定也无法一一介绍了,大家有兴趣可以下载下来看一看,捣鼓捣鼓。

三:其他用途

除了抓取html中的元素,我觉得这玩意还可以用在发送邮件时操控邮件模板,毕竟在很久以前大家都是用jquery来绘制 html,所以用 CSQuery 也是可以的,相对使用 xslt 有利有弊吧,接下来做一个例子:

1. 生成一个html模板

 
 
 
 
  1.  
  2.  
  3.  
  4.  
  5.      
  6.      
  7.  
  8.  
  9.      
  10.  
  11.  

2. 使用 CSQuery 给 ul 追加 li

可以用 Append 将内容追加到

      
      
      
      
    1. class Program 
    2.    { 
    3.        static void Main(string[] args) 
    4.        { 
    5.            Config.HtmlEncoder = HtmlEncoders.None; 
    6.  
    7.            var strlist = new string[2] { "1", "2" }; 
    8.  
    9.            var path = Environment.CurrentDirectory + "\\2.html"; 
    10.            var jquery = CQ.CreateFromFile(path); 
    11.  
    12.            foreach (var str in strlist) 
    13.            { 
    14.                jquery.Find("#main").Append($"
    15. {str}
    16. "); 
    17.            } 
    18.  
    19.            var html = jquery.Render(); 
    20.        } 
    21.    } 

3. 部分渲染 RenderSelection

Render方法是将整个Dom渲染成html,但有时候你只需要得到你修改的那部分内容,而不是整个html,这就涉及到了部分渲染,可以用 RenderSelection 方法即可,代码如下:

 
 
 
 
  1.  static void Main(string[] args) 
  2.         { 
  3.             Config.HtmlEncoder = HtmlEncoders.None; 
  4.  
  5.             var strlist = new string[2] { "1", "2" }; 
  6.  
  7.             var path = Environment.CurrentDirectory + "\\2.html"; 
  8.             var jquery = CQ.CreateFromFile(path); 
  9.  
  10.             var current = jquery.Find("#main"); 
  11.  
  12.             foreach (var str in strlist) 
  13.             { 
  14.                 current.Append($"
  15. {str}
  16. "); 
  17.             } 
  18.  
  19.             var html = current.RenderSelection(); 
  20.  
  21.             Console.WriteLine(html); 
  22.         } 
  23.  
  24. ------------- output ---------------- 
  25.  
  26. 1
  27. 2
  28.  

四:总结

Jquery 这种操作模式对我个人来说还是比较舒服的,毕竟熟!不过在 html5 中也新增了 querySelector 和 querySelectorAll 支持 css3 选择器,非常强大,可 jquery 不光在选择器的灵活上,还在于对节点的灵活操作上,总的来说不是特别富交互的情况下可以怀旧一把。

本文转载自微信公众号「一线码农聊技术」,可以通过以下二维码关注。转载本文请联系一线码农聊技术公众号。

当前文章:你没有看错,爬网页数据,C#也可以像Jquery那样
文章起源:http://www.csdahua.cn/qtweb/news7/141907.html

网站建设、网络推广公司-快上网,是专注品牌与效果的网站制作,网络营销seo公司;服务项目有等

广告

声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 快上网