编程语言


python检查URL是否正常访问的小技巧

网络编程 python检查URL是否正常访问的小技巧 06-22

今天,项目经理问我一个问题,问我这里有2000个URL要检查是否能正常打开,其实我是拒绝的,我知道因为要写代码了,正好学了点Python,一想,python处理起来容易,就选了python,开始把思路想好:

1.首先2000个URL。可以放在一个txt文本内
2.通过python 把内容内的URL一条一条放进数组内
3.打开一个模拟的浏览器,进行访问。
4.如果正常访问就输出正常,错误就输出错误

直接简单粗暴甩代码。因为涉及到隐私,图片打了码

import urllib.request 
import time 
 
opener = urllib.request.build_opener() 
opener.addheaders = [('User-agent', 'Mozilla/49.0.2')] 
#这个是你放网址的文件名,改过来就可以了 
file = open('test.txt') 
lines = file.readlines() 
aa=[] 
for line in lines: 
  temp=line.replace('n','') 
  aa.append(temp) 
print(aa) 
 
print('开始检查:') 
for a in aa: 
  tempUrl = a 
  try : 
    opener.open(tempUrl) 
    print(tempUrl+'没问题') 
  except urllib.error.HTTPError: 
    print(tempUrl+'=访问页面出错') 
    time.sleep(2) 
  except urllib.error.URLError: 
    print(tempUrl+'=访问页面出错') 
    time.sleep(2) 
  time.sleep(0.1) 

效果图:

查看图片

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持积木网。

Python实现 多进程导入CSV数据到 MySQL
前段时间帮同事处理了一个把CSV数据导入到MySQL的需求。两个很大的CSV文件,分别有3GB、2100万条记录和7GB、3500万条记录。对于这个量级的数据,用简单

不要用强制方法杀掉python线程
前言:不要试图用强制方法杀掉一个python线程,这从服务设计上就存在不合理性。多线程本用来任务的协作并发,如果你使用强制手段干掉线程,那么很

python基于itchat实现微信群消息同步机器人
最近全栈数据工程师养成攻略的微信群已经将近500人,开了二群之后为了打通不同微信群之间的消息,花了点时间做了个消息同步机器人,在任意群收


编辑:编程语言

标签:线程,数据,问我,消息,机器人