python 404_python检测404页面

python 404_python检测404页面某些网站为了实现友好的用户交互,提供了一种自定义的错误页面,而不是显示一个大大的404,比如CSDN上的404提示页面如下:这样虽然提高了用户体验,但是在编写对应POC进行检测的时候如果只根据返回的HTTP头部信息判断,则很可能造成误报,为了能准确检测到404页面,需要从状态码和页面内容两个方面来进行判断。从状态码来判断比较简单。可以直接使用requests库发送http请求,得到响应码即可。从…

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE使用 1年只要46元 售后保障 童叟无欺

某些网站为了实现友好的用户交互,提供了一种自定义的错误页面,而不是显示一个大大的404 ,比如CSDN上的404提示页面如下:

python 404_python检测404页面

这样虽然提高了用户体验,但是在编写对应POC进行检测的时候如果只根据返回的HTTP头部信息判断,则很可能造成误报,为了能准确检测到404页面,

需要从状态码和页面内容两个方面来进行判断。

从状态码来判断比较简单。可以直接使用requests库发送http请求,得到响应码即可。

从页面内容上进行判断的话,采用的思路是访问web站点上明显不存在的页面,获取页面内容进行保存,然后访问目标页面,将二者进行比较,如果相似度达到某一阈值,则该页面为404页面,否则为正常页面。

为了判断两个页面的相似度,采用Python的simhash库,这个库具体实现的算法我不太懂,但是Python的好处就是:不懂无所谓,直接拿来用就行。这里也只是简单的拿来用一下:

#-*- encoding:utf-8 -*-

# 404 页面识别

from hashes.simhash import simhash

import requests

class page_404:

def __init__(self, domain): #检测站点

self._404_page = [] # 404页面

self._404_url = [] #404 url

self._404_path = [“test_404.html”, “404_test.html”, “helloworld.html”, “test.asp?action=modify&newsid=122%20and%201=2%20union%20select%201,2,admin%2bpassword,4,5,6,7%20from%20shopxp_admin”] #404页面路径,用于生成一部分404页面

self._404_code = [200, 301, 302] #当前可能是404页面的http请求的返回值

#自己构造404url,以便收集一些404页面的信息

for path in self._404_path:

for path in self._404_path:

if domain[-1] == “/”:

url = domain + path

else:

url = domain + “/” + path

response = requests.get(url)

if response.status_code in self._404_code:

self.kb_appent(response.content, url)

def kb_appent(self, _404_page, _404_url):

if _404_page not in self._404_page:

self._404_page.append(_404_page)

if _404_url not in self._404_url:

self._404_url.append(_404_url)

def is_similar_page(self, page1, page2):

hash1 = simhash(page1)

hash2 = simhash(page2)

similar = hash1.similarity(hash2)

if similar > 0.85: #当前阈值定义为0.85

return True

else:

return False

def is_404(self, url):

if url in self._404_url:

return True

response = requests.get(url)

if response.status_code == 404:

return True

if response.status_code in self._404_code:

for page in self._404_page:

if self.is_similar_page(response.content, page):

self.kb_appent(url, response.content) #如果是404页面,则保存当前的url和页面信息

return True

else:

return False

return False

上面的代码中,检测类中主要保存了这样几个信息:

_404_page:404页面,用于与其他请求的页面进行相似度判断,以便识别404页面,这里用列表主要为了防止一个站点有多种404页面,这段代码运行时间越长它的准确度越高

_404_url:404 页面的url,保存之前判断出页面是404的url,已经判断出来的就不再判断,为了提升效率

_404_path:构建不存在页面的url,最后一个是一个sql注入的代码,这里为了识别出那些被防火墙拦截而显示的错误页面

_404_code:可能返回404页面的响应码,如果响应码为这些,则需要对页面进行判断

类在初始化时需要传入一个域名,根据这个域名来拼接几个不存在的或者会被防火墙拦截的请求并提交这些请求,得到返回信息,将这些信息作为判断的信息进行保存。

在判断时首先根据之前保存的404 url信息进行判断,如果当前url是404页面则直接返回,提高效率。然后提交正常的http请求并获取响应信息,

如果响应码为404则返回True,否则再状态码是否在_404_code列表中,最后再与之前保存的404页面信息进行比较得到结果。

这段代码的测试代码如下:

from page_404 import page_404

if __name__ == ‘__main__’:

domain = “http://xzylrd.gov.cn”

check_404 = page_404(domain)

dest_url = “http://xzylrd.gov.cn/TEXTBOX2.ASP?action=modify&newsid=122%20and%201=2%20union%20select%201,2,admin%2bpassword,4,5,6,7%20from%20shopxp_admin”

print (check_404.is_404(dest_url))

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/164567.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • JS定时器是什么「建议收藏」

    JS定时器是什么「建议收藏」很多人都会遇到图片的轮播效果,并且两分钟播放一下,这时候就会需要定时器,那么js定时器是什么?下面我们来讲解一下js定时器使用方法。1.js定时器是什么js定时器是利用js实现定时的一种方法,在网

    2022年7月3日
    25
  • html5div居中属性,html怎样让div居中

    html5div居中属性,html怎样让div居中html让div居中的方法:1、通过加“内容”标签让div居中;2、在div中加入“margin:0auto属性;”自动调节居中。本文操作环境:windows7系统、HTML5&&CSS3版、DellG3电脑。DIV居中提供两个方法:1、简单快捷方法就是加内容标签。示例:center居中我要居中啦2、div中加入margin:0auto属性;自动调节居中。示例2:margin…

    2025年5月25日
    2
  • simhash算法_Mapreduce原理

    simhash算法_Mapreduce原理一、LSH介绍    LSH(Localitysensitivehashing)是局部敏感性hashing,它与传统的hash是不同的。传统hash的目的是希望得到O(1)的查找性能,将原始数据映射到相应的桶内。    LSH的基本思想是将空间中原始数据相邻的2个数据点通过映射或者投影变换后,这两个数据点在新的空间中的相邻概率很大,不相邻的点映射到同一个桶的概率小。我们可以看到将一个在超大

    2022年9月30日
    2
  • python激活码2021_在线激活

    (python激活码2021)JetBrains旗下有多款编译器工具(如:IntelliJ、WebStorm、PyCharm等)在各编程领域几乎都占据了垄断地位。建立在开源IntelliJ平台之上,过去15年以来,JetBrains一直在不断发展和完善这个平台。这个平台可以针对您的开发工作流进行微调并且能够提供…

    2022年3月28日
    337
  • 轻松理解 Python 中的 async await 概念

    轻松理解 Python 中的 async await 概念前言写这篇文章是受xinghun85的这篇博客的启发,但是人家后面写的东西跳跃太快,有点没看懂,自己在此做一个补充.我希望能用一个最平易近人的例子,把Python协程中的async/await概念讲清楚,希望能够帮助大家有一个形象化的认识.注:所有的讲解都在代码的注释里.fromtimeimportsleep,timedefdemo1():…

    2022年7月12日
    25
  • java数组详解

    java数组详解1 数组概念同一种类型数据的集合。其实数组就是一个容器。数组的好处可以自动给数组中的元素从0开始编号,方便操作这些元素。格式1:元素类型[] 数组名 = new 元素类型[元素个数或数组长度];示例:int[] arr = new int[5];格式2:

    2022年6月2日
    26

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号