CURL

CURL

CURL? 嗯,说来话长了~~~~

  这东西现在已经是苹果机上内置的命令行工具之一了,可见其魅力之一斑

  1)

  二话不说,先从这里开始吧!

  curl http://www.yahoo.com

  回车之后,www.yahoo.com 的HTML就稀里哗啦地显示在屏幕上了~~~~~

  2)

  嗯,要想把读过来页面存下来,是不是要这样呢?

  curl http://www.yahoo.com > page.html

  当然可以,但不用这么麻烦的!

  用curl的内置option就好,存下http的结果,用这个option: -o

  curl -o page.html http://www.yahoo.com

  这样,你就可以看到屏幕上出现一个下载页面进度指示。等进展到100%,自然就OK咯

  3)

  什么什么?!访问不到?肯定是你的proxy没有设定了。

  使用curl的时候,用这个option可以指定http访问所使用的proxy服务器及其端口: -x

  curl -x 123.45.67.89:1080 -o page.html http://www.yahoo.com

  4)

  访问有些网站的时候比较讨厌,他使用cookIE来记录session信息。

  像IE/NN这样的浏览器,当然可以轻易处理cookie信息,但我们的curl呢?…..

  我们来学习这个option: -D <– 这个是把http的response里面的cookie信息存到一个特别的文件中去

  curl -x 123.45.67.89:1080 -o page.html -D cookie0001.txt http://www.yahoo.com

  这样,当页面被存到page.html的同时,cookie信息也被存到了cookie0001.txt里面了

  5)

  那么,下一次访问的时候,如何继续使用上次留下的cookie信息呢?要知道,很多网站都是靠监视你的cookie信息,

  来判断你是不是不按规矩访问他们的网站的。

  这次我们使用这个option来把上次的cookie信息追加到http request里面去: -b

curl -x 123.45.67.89:1080 -o page1.HTML -D cookIE0002.txt -b cookie0001.txt http://www.yahoo.com

  这样,我们就可以几乎模拟所有的IE操作,去访问网页了!

  6)

  稍微等等~~~~~我好像忘记什么了~~~~~

  对了!是浏览器信息~~~~

  有些讨厌的网站总要我们使用某些特定的浏览器去访问他们,有时候更过分的是,还要使用某些特定的版本~~~~

  NND,哪里有时间为了它去找这些怪异的浏览器呢!?

  好在curl给我们提供了一个有用的option,可以让我们随意指定自己这次访问所宣称的自己的浏览器信息: -A

  curl -A “Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.0)” -x 123.45.67.89:1080 -o page.html -D cookie0001.txt http://www.yahoo.com

  这样,服务器端接到访问的要求,会认为你是一个运行在Windows 2000上的IE6.0,嘿嘿嘿,其实也许你用的是苹果机呢!

  而”Mozilla/4.73 [en] (X11; U; Linux 2.2; 15 i686″则可以告诉对方你是一台PC上跑着的Linux,用的是Netscape 4.73,呵呵呵

  7)

  另外一个服务器端常用的限制方法,就是检查http访问的referer。比如你先访问首页,再访问里面所指定的下载页,这第二次访问的referer地址就是第一次访问成功后的页面地址。这样,服务器端只要发现对下载页面某次访问的referer地址不 是首页的地址,就可以断定那是个盗连了~~~~~

  讨厌讨厌~~~我就是要盗连~~~~~!!

  幸好curl给我们提供了设定referer的option: -e

  curl -A “Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.0)” -x 123.45.67.89:1080 -e “mail.yahoo.com” -o page.html -D cookie0001.txt http://www.yahoo.com

这样,就可以骗对方的
服务器,你是从mail.yahoo.com点击某个链接过来的了,呵呵呵

  8)

  写着写着发现漏掉什么重要的东西了!—– 利用curl 下载文件

  刚才讲过了,下载页面到一个文件里,可以使用 -o ,下载文件也是一样。

  比如, curl -o 1.jpg http://cgi2.tky.3web.ne.jp/~zzh/screen1.JPG

  这里教大家一个新的option: -O

  大写的O,这么用: curl -O http://cgi2.tky.3web.ne.jp/~zzh/screen1.JPG

  这样,就可以按照服务器上的文件名,自动存在本地了!

  再来一个更好用的。

  如果screen1.JPG以外还有screen2.JPG、screen3.JPG、….、screen10.JPG需要下载,难不成还要让我们写一个script来完成这些操作?

  不干!

  在curl里面,这么写就可以了:

  curl -O http://cgi2.tky.3web.ne.jp/~zzh/screen[1-10].JPG

  呵呵呵,厉害吧?!~~~

  9)

  再来,我们继续讲解下载!

  curl -O http://cgi2.tky.3web.ne.jp/~{zzh,nick}/[001-201].JPG

  这样产生的下载,就是

  ~zzh/001.JPG

  ~zzh/002.JPG

  …

  ~zzh/201.JPG

  ~nick/001.JPG

  ~nick/002.JPG

  …

  ~nick/201.JPG

  够方便的了吧?哈哈哈

  咦?高兴得太早了。

  由于zzh/nick下的文件名都是001,002…,201,下载下来的文件重名,后面的把前面的文件都给覆盖掉了~~~

  没关系,我们还有更狠的!

  curl -o #2_#1.jpg http://cgi2.tky.3web.ne.jp/~{zzh,nick}/[001-201].JPG

  –这是…..自定义文件名的下载?

  –对头,呵呵!

  #1是变量,指的是{zzh,nick}这部分,第一次取值zzh,第二次取值nick

#2代表的变量,则是第二段可变部分—[001-201],取值从001逐一加到201

  这样,自定义出来下载下来的文件名,就变成了这样:

  原来: ~zzh/001.JPG —> 下载后: 001-zzh.JPG

  原来: ~nick/001.JPG —> 下载后: 001-nick.JPG

  这样一来,就不怕文件重名啦,呵呵

  9)

  继续讲下载

  我们平时在Windows平台上,FlashGet这样的工具可以帮我们分块并行下载,还可以断线续传。

  curl在这些方面也不输给谁,嘿嘿

  比如我们下载screen1.JPG中,突然掉线了,我们就可以这样开始续传

  curl -c -O http://cgi2.tky.3wb.ne.jp/~zzh/screen1.JPG

  当然,你不要拿个Flashget下载了一半的文件来糊弄我~~~~别的下载软件的半截文件可不一定能用哦~~~

  分块下载,我们使用这个option就可以了: -r

  举例说明

  比如我们有一个http://cgi2.tky.3web.ne.jp/~zzh/zhao1.MP3 要下载(赵老师的电话朗诵 :D )

  我们就可以用这样的命令:

  curl -r 0-10240 -o “zhao.part1” http:/cgi2.tky.3web.ne.jp/~zzh/zhao1.mp3 &

  curl -r 10241-20480 -o “zhao.part1” http:/cgi2.tky.3web.ne.jp/~zzh/zhao1.mp3 &

  curl -r 20481-40960 -o “zhao.part1” http:/cgi2.tky.3web.ne.jp/~zzh/zhao1.mp3 &

  curl -r 40961- -o “zhao.part1” http:/cgi2.tky.3web.ne.jp/~zzh/zhao1.mp3

  这样就可以分块下载啦。

  不过你需要自己把这些破碎的文件合并起来

  如果你用Unix或苹果,用 cat zhao.part* > zhao.mp3就可以

  如果用的是Windows,用copy /b 来解决吧,呵呵

上面讲的都是http协议的
下载,其实ftp也一样可以用。

  用法嘛,

  curl -u name:passwd ftp://ip:port/path/file

  或者大家熟悉的

  curl ftp://name:passwd@ip:port/path/file

  10)

  说完了下载,接下来自然该讲上传

  上传的option是 -T

  比如我们向ftp传一个文件: curl -T localfile -u name:passwd ftp://upload_site:port/path/

  当然,向http服务器上传文件也可以

  比如 curl -T localfile http://cgi2.tky.3web.ne.jp/~zzh/abc.cgi

  注意,这时候,使用的协议是HTTP的PUT method

  刚才说到PUT,嘿嘿,自然让老服想起来了其他几种methos还没讲呢!

  GET和POST都不能忘哦。

  http提交一个表单,比较常用的是POST模式和GET模式

  GET模式什么option都不用,只需要把变量写在url里面就可以了

  比如:

  curl http://www.yahoo.com/login.cgi?user=nickwolfe&passWord=12345

  而POST模式的option则是 -d

  比如,curl -d “user=nickwolfe&password=12345” http://www.yahoo.com/login.cgi

  就相当于向这个站点发出一次登陆申请~~~~~

  到底该用GET模式还是POST模式,要看对面服务器的程序设定。

  一点需要注意的是,POST模式下的文件上的文件上传,比如

  <form method=”POST” enctype=”multipar/form-data” action=”http://cgi2.tky.3web.ne.jp/~zzh/up_file.cgi”>

  <input type=file name=upload>

  <input type=submit name=nick value=”go”>

  </form>

  这样一个HTTP表单,我们要用curl进行模拟,就该是这样的语法:

  curl -F upload=@localfile -F nick=go http://cgi2.tky.3web.ne.jp/~zzh/up_file.cgi

  罗罗嗦嗦讲了这么多,其实curl还有很多很多技巧和用法

  比如 https的时候使用本地证书,就可以这样

  curl -E localcert.pem https://remote_server

  再比如,你还可以用curl通过dict协议去查字典~~~~~

  curl dict://dict.org/d:computer

  今天就先讲到这里吧,呵呵。疯狂的curl功能,需要你—一起来发掘。

 

转载于:https://www.cnblogs.com/kevinmeng/archive/2009/06/24/1510285.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/110896.html原文链接:https://javaforall.net

(0)
上一篇 2021年7月31日 上午9:00
下一篇 2021年7月31日 上午10:00


相关推荐

  • 瑞芯微rk3399pro_arm主板定制开发

    瑞芯微rk3399pro_arm主板定制开发深圳市宁远电子科技有限公司于2015年在中国广东省深圳市成立,公司自成立以来一直专注于工业嵌入式产品的软硬件研发和生产,以及相应的增值服务。公司拥有强大的研发技术实力,创始团队来自于华为,三星十年工作经验以上资深研发人员。  深圳市宁远电子科技有限公司专注于工来控制产品的研发,是ARM在中国最具实力的方案公司.  公司定位于中高端产品的研发,基于RK3288,RK3399等处理器,,开发了…

    2022年10月14日
    8
  • PHP常见面试题_php算法面试题及答案

    PHP常见面试题_php算法面试题及答案1.PHP的基础知识点PHP中类的继承属于单继承,一个子类只能继承一个父类。可见性为publicprotected的属性和方法可以被继承。继承的方法或属性可以被重写,可见性越来越大。PHP中的变量名区分大小写,但类名、函数名不区分大小写。2.error_reporting()函数的作用error_reporting()函数的作用是临时设置脚本执行过程中的错

    2022年8月25日
    8
  • CSS 滚动条样式美化

    CSS 滚动条样式美化滚动条主要属性 webkit scrollbar 滚动条整体部分 webkit scrollbar thumb 滚动条里面的滑块 webkit scrollbar track 滚动条的轨道 webkit scrollbar button 滚动条轨道两端的按钮 允许通过点击微调滑块的位置 webkit scrollbar track piece 内层轨道 滚动条中间部分 webkit scrollbar corner 边角 及两个滚动条的交汇处 webkit r

    2026年3月26日
    2
  • 微信小程序 轮播图 修改小点点「建议收藏」

    微信小程序 轮播图 修改小点点「建议收藏」.swiper-box.wx-swiper-dot{display:inline-flex;justify-content:space-between;border-radius:50%;}.swiper-box.wx-swiper-dot::before{content:”;flex-grow:1;backgrou

    2022年5月11日
    90
  • 详解 CAP 定理 Consistency(一致性)、 Availability(可用性)、Partition tolerance(分区容错性)…

    详解 CAP 定理 Consistency(一致性)、 Availability(可用性)、Partition tolerance(分区容错性)…CAP原则又称CAP定理,指的是在一个分布式系统中,Consistency(一致性)、Availability(可用性)、Partitiontolerance(分区容错性),三者不可得兼。分布式系统(distributedsystem)正变得越来越重要,大型网站几乎都是分布式的。分布式系统的最大难点,就是各个节点的状态如何同步。CAP定理是这方面的基本定理,也是理解分布式…

    2022年7月25日
    8
  • js 的forEach 如何跳出循环「建议收藏」

    js 的forEach 如何跳出循环「建议收藏」forEach()方法用于调用数组的每个元素,并将元素传递给回调函数。对于空数组不会执行回调函数回调函数的参数function(currentValue,index,arr)currentValue必需。当前元素index可选。当前元素的索引值…

    2022年6月4日
    133

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号