python爬虫:爬取网站视频

python爬虫:爬取网站视频

python爬取百思不得姐网站视频http://www.budejie.com/video/

新建一个py文件,代码如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
#!/usr/bin/python
# -*- coding: UTF-8 -*-

 

import 
urllib,re,requests
import 
sys
reload
(sys)
sys.setdefaultencoding(
'utf-8'
)

 

url_name 
= 
[] 
#url name

 

def 
get():
    
#获取源码
    
hd 
= 
{

"User-Agent"
:
"Mozilla/5.0 (Windows NT 6.3; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36"
}
    
url 
= 
'http://www.budejie.com/video/'
    
html 
= 
requests.get(url,headers
=
hd).text
    
url_content 
= 
re.
compile
(r
'(<div class="j-r-list-c">.*?</div>.*?</div>)'
,re.S) 
#编译
    
url_contents 
= 
re.findall(url_content,html) 
#匹配

 

    
for 

in 
url_contents:
        
#匹配视频
        
url_reg 
= 
r
'data-mp4="(.*?)"'  
#视频地址
        
url_items 
= 
re.findall(url_reg,i)
        
#print url_items
        
if 
url_items:  
#判断视频是否存在
            
name_reg 
= 
re.
compile
(r
'<a href="/detail-.{8}?.html">(.*?)</a>'
,re.S)
            
name_items 
= 
re.findall(name_reg,i)
            
#print name_items[0]
            
for 
i,k 
in 
zip
(name_items,url_items):
                
url_name.append([i,k])
                
print 
i,k
    
for 

in 
url_name:  
#i[1]=url i[0]=name
        
urllib.urlretrieve(i[
1
],
'video\\%s.mp4' 
% 
(i[
0
].decode(
'utf-8'
)))

 

if 
__name__ 
=
= 
"__main__"
:
    
get()

 

在 py 文件下新建一个 video 文件夹,执行后结果如下:

wKiom1kkMz-i8-RdAAIVKL2KXsw022.png

在 video 文件夹可以看到下载好的视频

wKioL1kkM1KQyw43AAQpNrfCuQc669.png

 

注意报错:

UnicodeEncodeError: ‘ascii’ codec can’t encode characters in position 0-9: ordinal not in range(128)

解决:

import sys
reload(sys)

sys.setdefaultencoding(‘utf-8’)

 

 

转载:http://blog.51cto.com/xiaogongju/2061754

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/112606.html原文链接:https://javaforall.net

(0)
上一篇 2021年11月4日 下午6:00
下一篇 2021年11月4日 下午6:00


相关推荐

  • 大数据数据分析架构探究

    大数据数据分析架构探究

    2021年7月5日
    82
  • LEA指令

    LEA指令数据传送类指令 LEA 指令地址传送指令跟 offset 的区别 offset 在汇编时就获得了变量的偏移地址 执行起来很快 LEA 指令是在执行过程中获得地址 当无法在汇编阶段获得地址时 就用 LEA 指令 LEA 指令实现运算功能总结

    2026年3月26日
    3
  • 负载均衡、Apache 负载均衡配置[通俗易懂]

    负载均衡、Apache 负载均衡配置[通俗易懂][1]Apache负载均衡设置方法mod_proxy使用介绍一般来说,负载均衡就是将客户端的请求分流给后端的各个真实服务器,达到负载均衡的目的。还有一种方式是用两台服务器,一台作为主服务器(Master),另一台作为热备份(HotStandby),请求全部分给主服务器,在主服务器当机时,立即切换到备份服务器,以提高系统的整体可 第一次看到这个标题时我也很惊讶,Apache居然还能做负载

    2025年10月15日
    6
  • Java-String类常用方法汇总

    Java-String类常用方法汇总1 获取字符串长度 intlength 2 获取指定位置上某个字符 charcharAt intindex 3 获取指定字符在字符串中位置 intindexOf intch 返回的是 ch 在字符串中第一次出现的位置 intindexOf intch intfromIndex 从 fromIndex 指定位置开始 获取 ch 在字符串中出现的位置 intindexOf Stringstr 返回的是 str 在字符串中第一次出现的位置 intindexOf Str

    2026年3月17日
    2
  • idea 查找与替换「建议收藏」

    idea 查找与替换「建议收藏」查找当前文件内容:ctrl+F如上图片查找全局文件:ctrl+shift+F或doubleshift(按两下)或ctrl+shift+N替换当前文件内容:ctrl+R如上图片

    2026年4月18日
    5
  • 函数模板参数(函数参数在哪)

    C++模板实参的省略下面列举的几种情况不能省略模板实参:1)从模板函数实参表获得的信息有矛盾之处。template<typenameT>voidfun(Tconst&a,Tconst&b);但是你调用时却是fun(250,250.4);那你就必须写成fun<int>(250,250.4);2)需要获得特定类型的返回值,而不管参数…

    2022年4月15日
    63

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号