佳木斯湛栽影视文化发展公司

主頁 > 知識庫 > Python如何利用正則表達式爬取網(wǎng)頁信息及圖片

Python如何利用正則表達式爬取網(wǎng)頁信息及圖片

熱門標簽:百度AI接口 企業(yè)做大做強 電話運營中心 客戶服務 語音系統(tǒng) 硅谷的囚徒呼叫中心 呼叫中心市場需求 Win7旗艦版

一、正則表達式是什么?

概念:

正則表達式是對字符串操作的一種邏輯公式,就是用事先定義好的一些特定字符、及這些特定字符的組合,組成一個“規(guī)則字符串”,這個“規(guī)則字符串”用來表達對字符串的一種過濾邏輯。

正則表達式是一個特殊的字符序列,它能幫助你方便的檢查一個字符串是否與某種模式匹配。

個人理解:

簡單來說就是使用正則表達式來寫一個過濾器來過濾了掉雜亂的無用的信息(eg:網(wǎng)頁源代碼…)從中來獲取自己想要的內(nèi)容

二、實戰(zhàn)項目

1.爬取內(nèi)容

獲取上海所有三甲醫(yī)院的名稱并保存到.txt文件中

2.訪問鏈接

上海三甲醫(yī)院網(wǎng)站 link:https://yyk.99.com.cn/sanjia/shanghai/

3.正則表達式書寫的靈感

進入網(wǎng)站查看本頁面的源代碼發(fā)現(xiàn) :醫(yī)院的名稱都是放在一個

div class="province-box"> ...... /div>

盒子里我們只需要直接把這個盒子里面的數(shù)據(jù)過濾一下就行

正則表達式:

法一:

1.一級過濾 : 

   div class="province-box">(.*)div class="wrap-right">

開頭是:div class="province-box"> (.*)  結(jié)尾是:div class="wrap-right">

2.二級過濾:

 title="(.*[院心部])*)" 獲取title=" " 里面的信息

法二:

優(yōu)化后一次性過濾:

 li>a href="/[^/].*/" rel="external nofollow" rel="external nofollow" target="_blank" title="(.*)">

貼圖片

開頭是:

結(jié)尾是:

4.項目源代碼

import requests
import re

url = "https://yyk.99.com.cn/sanjia/shanghai/"
# 模擬瀏覽器的訪問
headers ={'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:87.0) '
                        'Gecko/20100101 Firefox/87.0'}
res = requests.get(url,headers=headers)

if res.status_code == 200:
	#1.獲取網(wǎng)頁源代碼
    raw_text = res.text
    
    #2.正則表達式書寫:
    #2.2注意:正則表達式默認匹配的是一行  我們的源代碼是多行匹配的要加另一個參數(shù) re.DOTALL
	#2.3正則法一:
		#re.findall() 返回的是lsit集合 一次過濾
    re_res = re.findall(r'div class="province-box">(.*)div class="wrap-right">', raw_text,re.DOTALL)
    	#re_res[0] 獲取下標是的數(shù)據(jù)    二次過濾
    res=re.findall(r'title="(.*[院心部])*)"',re_res[0])
    	#檢查打印獲取到的信息
	print(res)
	
	#2.4正則法二:
		#(優(yōu)化)不用二次過濾 一次過濾就解決了
    # re_list = re.findall(r'li>a href="/[^/].*/" rel="external nofollow"  rel="external nofollow"  target="_blank" title="(.*)">', res.text)
    #print(re_list)

    # 寫入文件中
    read = open("上海醫(yī)院名單", "w", encoding='utf-8')
    for i in res:
        read.write(i)
        read.write("\n")
    read.close()
else:
    print("error")

項目目錄:

部分結(jié)果:

python 正則表達式-提取圖片地址

import os,sys,time,json,time
import socket,random,hashlib
import requests,configparser
import json,re
from datetime import datetime
from multiprocessing.dummy import Pool as ThreadPool


def getpicurl(url):
    url = "http://www.mzitu.com/zipai/comment-page-352"
    html = requests.get(url).text
    pic_url = re.findall('img src="(.*?)"',html,re.S)
    for key in pic_url:
        print(key + "\r\n")
    #print(pic_url)
    
getpicurl("http://www.mzitu.com/zipai/comment-pag.e-352")

輸出結(jié)果:

python mmm.py
http://wx3.sinaimg.cn/mw1024/9d52c073gy1fsvu6578k1j20sg15nk4x.jpg

http://wx1.sinaimg.cn/mw1024/9d52c073gy1fsvu64q4lgj20j60nz0ua.jpg

http://wx1.sinaimg.cn/mw1024/9d52c073gy1fsvu67hhbaj20sg110toc.jpg

http://wx2.sinaimg.cn/mw1024/9d52c073gy1fsvu66bw56j20sg0zjtlr.jpg

http://wx1.sinaimg.cn/mw1024/9d52c073gy1fsvu65vvvtj20sg0mmtfc.jpg

http://wx2.sinaimg.cn/mw1024/9d52c073gy1fsvu66gtnzj20sg0zk48h.jpg

http://wx1.sinaimg.cn/mw1024/9d52c073gy1fsvu65q1qyj20sg11vtmo.jpg

http://wx3.sinaimg.cn/mw1024/9d52c073gy1fsvu64wgejj20e60iwtax.jpg

http://wx1.sinaimg.cn/mw1024/9d52c073gy1fsvu66a8xfj20lt0rptgw.jpg

http://wx4.sinaimg.cn/mw1024/9d52c073gy1fsnr6n7n66j20k00ozn52.jpg

http://wx1.sinaimg.cn/mw1024/9d52c073gy1fsnr6njhjyj20sg0zkn88.jpg

http://wx3.sinaimg.cn/mw1024/9d52c073gy1fsnr6n2zmyj20sg0ldten.jpg

總結(jié)

到此這篇關于Python如何利用正則表達式爬取網(wǎng)頁信息及圖片的文章就介紹到這了,更多相關Python正則表達式爬取內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!

您可能感興趣的文章:
  • Python正則表達式中的量詞符號與組問題小結(jié)
  • Python正則表達式的應用詳解
  • 淺談Python中的正則表達式
  • python正則表達式re.search()的基本使用教程
  • python通過re正則表達式切割中英文的操作
  • Python驗證的50個常見正則表達式
  • python re模塊和正則表達式
  • Python中正則表達式對單個字符,多個字符和匹配邊界等使用
  • python正則表達式re.match()匹配多個字符方法的實現(xiàn)
  • 如何利用python正則表達式匹配版本信息
  • python使用正則表達式匹配txt特定字符串(有換行)
  • Python爬蟲教程之利用正則表達式匹配網(wǎng)頁內(nèi)容
  • python中使用正則表達式將所有符合條件的字段全部提取出來
  • Python使用正則表達式實現(xiàn)爬蟲數(shù)據(jù)抽取
  • Python 通過正則表達式快速獲取電影的下載地址
  • python正則表達式 匹配反斜杠的操作方法
  • 帶你精通Python正則表達式

標簽:安康 喀什 山西 海南 長沙 濟南 山西 崇左

巨人網(wǎng)絡通訊聲明:本文標題《Python如何利用正則表達式爬取網(wǎng)頁信息及圖片》,本文關鍵詞  ;如發(fā)現(xiàn)本文內(nèi)容存在版權問題,煩請?zhí)峁┫嚓P信息告之我們,我們將及時溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡,涉及言論、版權與本站無關。
  • 相關文章
  • 收縮
    • 微信客服
    • 微信二維碼
    • 電話咨詢

    • 400-1100-266
    永修县| 苗栗市| 镇原县| 玉屏| 博爱县| 宁阳县| 石林| 福鼎市| 囊谦县| 巩义市| 昌平区| 新邵县| 古浪县| 正阳县| 高尔夫| 饶阳县| 诸城市| 红原县| 中西区| 定边县| 铜山县| 行唐县| 六枝特区| 昌都县| 稻城县| 南京市| 安新县| 宁陕县| 鄂温| 邹平县| 通河县| 禄丰县| 肥东县| 揭西县| 革吉县| 屏东市| 惠州市| 宁夏| 平阴县| 内乡县| 天门市|