python爬虫:爬取网站视频

python爬虫:爬取网站视频

python爬取百思不得姐网站视频http://www.budejie.com/video/

新建一个py文件,代码如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
#!/usr/bin/python
# -*- coding: UTF-8 -*-

 

import 
urllib,re,requests
import 
sys
reload
(sys)
sys.setdefaultencoding(
'utf-8'
)

 

url_name 
= 
[] 
#url name

 

def 
get():
    
#获取源码
    
hd 
= 
{

"User-Agent"
:
"Mozilla/5.0 (Windows NT 6.3; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36"
}
    
url 
= 
'http://www.budejie.com/video/'
    
html 
= 
requests.get(url,headers
=
hd).text
    
url_content 
= 
re.
compile
(r
'(<div class="j-r-list-c">.*?</div>.*?</div>)'
,re.S) 
#编译
    
url_contents 
= 
re.findall(url_content,html) 
#匹配

 

    
for 

in 
url_contents:
        
#匹配视频
        
url_reg 
= 
r
'data-mp4="(.*?)"'  
#视频地址
        
url_items 
= 
re.findall(url_reg,i)
        
#print url_items
        
if 
url_items:  
#判断视频是否存在
            
name_reg 
= 
re.
compile
(r
'<a href="/detail-.{8}?.html">(.*?)</a>'
,re.S)
            
name_items 
= 
re.findall(name_reg,i)
            
#print name_items[0]
            
for 
i,k 
in 
zip
(name_items,url_items):
                
url_name.append([i,k])
                
print 
i,k
    
for 

in 
url_name:  
#i[1]=url i[0]=name
        
urllib.urlretrieve(i[
1
],
'video\\%s.mp4' 
% 
(i[
0
].decode(
'utf-8'
)))

 

if 
__name__ 
=
= 
"__main__"
:
    
get()

 

在 py 文件下新建一个 video 文件夹,执行后结果如下:

wKiom1kkMz-i8-RdAAIVKL2KXsw022.png

在 video 文件夹可以看到下载好的视频

wKioL1kkM1KQyw43AAQpNrfCuQc669.png

 

注意报错:

UnicodeEncodeError: ‘ascii’ codec can’t encode characters in position 0-9: ordinal not in range(128)

解决:

import sys
reload(sys)

sys.setdefaultencoding(‘utf-8’)

 

 

转载:http://blog.51cto.com/xiaogongju/2061754

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/112606.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • Qt Quick之Canvas

    QML中的Canvas,俗称画布,它用来定义一个绘图区域,可以使用ECMAScript代码来绘制直线,矩形,贝塞尔曲线,弧线,图片,文字等图元,还可以为这些图元应用填充颜色和边框颜色,甚至还可以进行低

    2021年12月29日
    51
  • Java反射是什么?看这篇绝对会了![通俗易懂]

    Java反射是什么?看这篇绝对会了![通俗易懂].概念反射就是把Java的各种成分映射成相应的Java类。Class类的构造方法是private,由JVM创建。反射是java语言的一个特性,它允程序在运行时(注意不是编译的时候)来进行自我检查并且对内部的成员进行操作。例如它允许一个java的类获取他所有的成员变量和方法并且显示出来。Java的这一能力在实际应用中也许用得不是很多,但是在其它的程序设计语言中根本就不存在这一特性。例如,Pascal、C或者C++中就没有办法在程序中获得函数定义相关的信息。(来自Sun)JavaBe

    2022年7月7日
    21
  • 无人机的电路板和控制器_无人机飞控电路图

    无人机的电路板和控制器_无人机飞控电路图第1步,查看官方ESP-Drone无人机ESP32-S2-WROVER模块的参考设计原理图第二步,用KiCAD绘制ESP32-S2-WROVER模块及周边电路。1、如图2-1所示,从KiCAD的原理图符号库中直接调出ESP32-S2-WROVER的原理图符号。注意,在安装KiCAD软件后,它的原理图符号库中已经有ESP32-S2-WROVER的原理图符号,可以直接调用,对于没有的原理图符号,可以进行自己创建。2、如图2-2所示,给ESP32-S2-WROVER模块…

    2022年8月15日
    9
  • python 平均值/MAX/MIN值 计算从入门到精通「建议收藏」

    python 平均值/MAX/MIN值 计算从入门到精通「建议收藏」##入门级计算####1、算数平均值#样本:S=[s1,s2,s3,…,sn]#算术平均值:m=(s1+s2+s3+…+sn)/nNumpy中的写法m=

    2022年7月6日
    23
  • 前缀、中缀、后缀表达式「建议收藏」

    前缀、中缀、后缀表达式「建议收藏」关键字:概念,前缀表达式,前缀记法,中缀表达式,中缀记法,波兰式,后缀表达式,后缀记法,逆波兰式它们都是对表达式的记法,因此也被称为前缀记法、中缀记法和后缀记法。它们之间的区别在于运算符相对与操作数的位置不同:前缀表达式的运算符位于与其相关的操作数之前

    2022年6月16日
    37
  • 《内网安全攻防:渗透测试实战指南》读书笔记(三):隐藏通信隧道技术[通俗易懂]

    《内网安全攻防:渗透测试实战指南》读书笔记(三):隐藏通信隧道技术[通俗易懂]本篇继续阅读学习《内网安全攻防:渗透测试实战指南》,是第三章隐藏通信隧道技术,详细介绍了IPv6隧道、ICMP隧道、HTTPS隧道、SSH隧道、DNS隧道等加密隧道的使用方法,并对常见的SOCKS代理工具及内网上传/下载方法进行了解说

    2022年10月18日
    2

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号