python爬虫:爬取网站视频

python爬虫:爬取网站视频

python爬取百思不得姐网站视频http://www.budejie.com/video/

新建一个py文件,代码如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
#!/usr/bin/python
# -*- coding: UTF-8 -*-

 

import 
urllib,re,requests
import 
sys
reload
(sys)
sys.setdefaultencoding(
'utf-8'
)

 

url_name 
= 
[] 
#url name

 

def 
get():
    
#获取源码
    
hd 
= 
{

"User-Agent"
:
"Mozilla/5.0 (Windows NT 6.3; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36"
}
    
url 
= 
'http://www.budejie.com/video/'
    
html 
= 
requests.get(url,headers
=
hd).text
    
url_content 
= 
re.
compile
(r
'(<div class="j-r-list-c">.*?</div>.*?</div>)'
,re.S) 
#编译
    
url_contents 
= 
re.findall(url_content,html) 
#匹配

 

    
for 

in 
url_contents:
        
#匹配视频
        
url_reg 
= 
r
'data-mp4="(.*?)"'  
#视频地址
        
url_items 
= 
re.findall(url_reg,i)
        
#print url_items
        
if 
url_items:  
#判断视频是否存在
            
name_reg 
= 
re.
compile
(r
'<a href="/detail-.{8}?.html">(.*?)</a>'
,re.S)
            
name_items 
= 
re.findall(name_reg,i)
            
#print name_items[0]
            
for 
i,k 
in 
zip
(name_items,url_items):
                
url_name.append([i,k])
                
print 
i,k
    
for 

in 
url_name:  
#i[1]=url i[0]=name
        
urllib.urlretrieve(i[
1
],
'video\\%s.mp4' 
% 
(i[
0
].decode(
'utf-8'
)))

 

if 
__name__ 
=
= 
"__main__"
:
    
get()

 

在 py 文件下新建一个 video 文件夹,执行后结果如下:

wKiom1kkMz-i8-RdAAIVKL2KXsw022.png

在 video 文件夹可以看到下载好的视频

wKioL1kkM1KQyw43AAQpNrfCuQc669.png

 

注意报错:

UnicodeEncodeError: ‘ascii’ codec can’t encode characters in position 0-9: ordinal not in range(128)

解决:

import sys
reload(sys)

sys.setdefaultencoding(‘utf-8’)

 

 

转载:http://blog.51cto.com/xiaogongju/2061754

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/112606.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • 关于使用LayoutParams清除设置以及DateFormat无法正确转换格式化日期的问题

    关于使用LayoutParams清除设置以及DateFormat无法正确转换格式化日期的问题1、关于LayoutParams清除设置问题RelativeLayout.LayoutParamslp=(LayoutParams)mBtn.getLayoutParams();lp.addRule(RelativeLayout.ALIGN_PARENT_RIGHT,0);//清除上次设置(只有清除上次设置,这次设置才会起效,倘若代码设置过后不需要再次更改布局,则无须清除上次设置)

    2022年7月17日
    14
  • windows下Elasticsearch安装、ElasticSearch-head插件安装使用[通俗易懂]

    windows下Elasticsearch安装、ElasticSearch-head插件安装使用[通俗易懂]Elasticsearch的介绍Elasticsearch是一个基于Lucene库的搜索引擎。它提供了一个分布式、支持多租户的全文搜索引擎,具有HTTPWeb接口和无模式JSON文档。Elasticsearch具有以下特点:分布式,无需人工搭建集群(solr就需要人为配置,使用Zookeeper作为注册中心)Restful风格,一切API都遵循Rest原则,容易上手近实时搜索,数据更新在Elasticsearch中几乎是完全同步的。开源的全文检索技术(Solr、Elasticsearch等)

    2022年5月18日
    93
  • 协议和协定有什么区别_协议和合同是一回事吗

    协议和协定有什么区别_协议和合同是一回事吗1、https协议需要到CA(CertificateAuthority,证书颁发机构)申请证书,一般免费证书较少,因而需要一定费用。(原来网易官网是http,而网易邮箱是https。)2、http是超文本传输协议,信息是明文传输,https则是具有安全性的ssl加密传输协议。3、http和https使用的是完全不同的连接方式,用的端口也不一样,前者是80,后者是443。4、http的连接很简单,是无状态的。Https协议是由SSL+Http协议构建的可进行加密传输、身份认证的网络协议,比http.

    2022年10月11日
    2
  • Oracle INSERT 语句

    Oracle INSERT 语句–Start–更多参见:OracleSQL精萃– 声明:转载请注明出处–Lasteditedon2015-06-17–Createdby ShangBoon 2015-06-17–End

    2022年7月25日
    14
  • ES6 Promise用法小结

    ES6 Promise用法小结目录1.什么是Promisereject的用法catch的用法all的用法race的用法1.什么是PromisePromise是异步编程的一种解决方案,其实是一个构造函数,自己身上有all、reject、resolve这几个方法,原型上有then、catch等方法。Promise对象有以下两个特点。(1)对象的状态不受外界影响。Promise对象代表一个异步操…

    2022年6月12日
    31
  • javascript 类数组概念详解

    javascript 类数组概念详解

    2021年6月7日
    99

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号