Metodo per implementare la verifica concorrente degli indirizzi del pool di proxy in Python3

本文实例讲述了Python3实现并发检验代理池地址的方法。分享给大家供大家参考，具体如下：

#encoding=utf-8
#author: walker
#date: 2016-04-14
#summary: 用协程/线程池并发检验代理有效性
import os, sys, time
import requests
from concurrent import futures
cur_dir_fullpath = os.path.dirname(os.path.abspath(__file__))
Headers = {
      'Accept': '*/*',
      'User-Agent': 'Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; WOW64; Trident/4.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; .NET4.0C; .NET4.0E)',
    }
# Check the validity of a single proxy
# If valid, return the proxy; otherwise, return an empty string
def Check(desturl, proxy, feature):
  proxies = {'http': 'http://' + proxy}
  r = None # declaration
  exMsg = None
  try:
    r = requests.get(url=desturl, headers=Headers, proxies=proxies, timeout=3)
  except:
    exMsg = '* ' + traceback.format_exc()
    #print(exMsg)
  finally:
    if 'r' in locals() and r:
      r.close()
  if exMsg:
    return ''
  if r.status_code != 200:
    return ''
  if r.text.find(feature) < 0:
    return ''
  return proxy
# Input proxy list (set/list), return valid proxy list
def GetValidProxyPool(rawProxyPool, desturl, feature):
  validProxyList = list()  # valid proxy list
  pool = futures.ThreadPoolExecutor(8)
  futureList = list()
  for proxy in rawProxyPool:
    futureList.append(pool.submit(Check, desturl, proxy, feature))
  print('\n submit done, waiting for responses\n')
  for future in futures.as_completed(futureList):
    proxy = future.result()
    print('proxy:' + proxy)
    if proxy: # valid proxy
      validProxyList.append(proxy)
  print('validProxyList size:' + str(len(validProxyList)))
  return validProxyList
#Ottenere il pool di proxy originale
def GetRawProxyPool():
  rawProxyPool = set()
  #Ottenere il pool di proxy originale tramite un qualche metodo...
  return rawProxyPool
if __name__ == "__main__":
  rawProxyPool = GetRawProxyPool()
  desturl = 'http://...'    #Indirizzo del sito web da accedere tramite proxy
  feature = 'xxx'    #Codice caratteristico della pagina obiettivo
  validProxyPool = GetValidProxyPool(rawProxyPool, desturl, feature)

Per coloro che sono interessati a ulteriori contenuti su Python, possono consultare le sezioni speciali di questo sito: 'Guida Classica di Inizio e Avanzamento di Python', 'Riassunto delle Tecniche di Manipolazione degli URL di Python', 'Riassunto delle Tecniche di Manipolazione delle Immagini di Python', 'Guida a Strutture Dati e Algoritmi di Python', 'Riassunto delle Tecniche di Programmazione di Socket di Python', 'Riassunto delle Tecniche di Utilizzo delle Funzioni di Python', 'Riassunto delle Tecniche di Manipolazione delle Stringhe di Python' e 'Riassunto delle Tecniche di Manipolazione dei File e delle Directory di Python'.

Spero che questo articolo possa essere utile per la progettazione di programmi Python di tutti.

Dichiarazione: il contenuto di questo articolo è stato tratto da Internet, il copyright è dell'autore originale, il contenuto è stato contribuito e caricato autonomamente dagli utenti di Internet, questo sito non detiene il diritto di proprietà, non è stato editato manualmente e non assume alcuna responsabilità legale. Se trovi contenuti sospetti di violazione del copyright, ti preghiamo di inviare una e-mail a notice#oldtoolbag.com (sostituisci # con @) per segnalare il problema e fornire prove pertinenti. Una volta verificata, questo sito rimuoverà immediatamente il contenuto sospetto di violazione del copyright.