主頁 > 知識庫 > 采集原理---采集技術篇---XMLHTTP

采集原理---采集技術篇---XMLHTTP

最近一段時間，采集很熱門，從新聞小偷，到音樂小偷，到新聞采集，F(xiàn)lash采集，都有他的蹤影，現(xiàn)在還有很多的人對采集都很感興趣，為了服務大家，我也正在寫一套采集程序，名字為心意采集程序，現(xiàn)在我講一下，采集用到的相關技術。

下面講到的也不是很高深的XMLHTTP技術，我也是稍稍講一下,一個采集需要用到的幾塊內容
如果你需要了解更多的問題,請去www.google.com 搜索 XMLHTTP 技術你將會得到更多的幫助，如果大家有什么疑問的話，可以在論壇上回貼

下面只講到如何在網上得到數(shù)據(jù)，并不涉及到數(shù)據(jù)處理

第一 XMLHTTP 技術

http://www.0579.info/study/exploitation/net/58685.htm

上面那個地址，那篇文章講的根本原理已經很詳細了，但是我們一般采集的話，剛開始不太需要了解太多。只要實用就可以了，等以后不夠用的時候，再去找相關文檔也來得急

首先，我們需要建立一個XMLHTTP對象
微軟發(fā)布的xmlhttp組件已經有很多的版本了，我知道的就有以下幾種：

"MSXML2.ServerXMLHTTP.4.0"
"MSXML2.ServerXMLHTTP.3.0"
"MSXML2.ServerXMLHTTP"
"MSXML2.XMLHTTP.5.0"
"MSXML2.XMLHTTP.4.0"
"MSXML2.XMLHTTP.3.0"
"MSXML2.XMLHTTP"
"Microsoft.XMLHTTP

以上有這么多種組件，我們當然是需要申請最高版本的對象嘍，那有什么辦法可以實現(xiàn)呢
下面我拿出一段代碼，大家可以看看，他是按最高版本申請XMLHTTP對象的

Dim ArrProgId,Prog,Flag，XmlHttpCom

ArrProgId = array("MSXML2.ServerXMLHTTP.4.0", "MSXML2.ServerXMLHTTP.3.0", "MSXML2.ServerXMLHTTP", "MSXML2.XMLHTTP.5.0", "MSXML2.XMLHTTP.4.0", "MSXML2.XMLHTTP.3.0", "MSXML2.XMLHTTP","Microsoft.XMLHTTP")

For Each Prog In arrProgId
If (IsObjInstalled(Prog) = true) Then
XmlHttpCom = Prog
Exit For
End If
Next

'// summary>
'//　Rem 檢查組件是否支持　是返回　True 否返回 False
'// /summary>
Public Function IsObjInstalled(strClassString)
On Error Resume Next

'//設置初始化值

IsObjInstalled = False
Err = 0

'//測試代碼

Dim xTestObj
Set xTestObj = Server.createObject(strClassString)
If 0 = Err Then IsObjInstalled = True

'//清除所申請的對象

Set xTestObj = Nothing
Err = 0
End Function

上面那段代碼就是申請到當前服務器支持的最高版本的XMLHTTP對象了

下面我們講一下采集功能函數(shù)

'GetFileText為采集功能函數(shù)
Public Function GetFileText(url)
on error resume next '有錯誤時繼續(xù)執(zhí)行代碼
Dim http '定義變量
'Set http=Server.createobject(XmlHttpCom) '申請對象
Set http=Server.createobject("Microsoft.XMLHTTP") '保險起見，寫出一個服務器一般都支持的版本
Http.open "GET",url,False '打開對象用GET方式等待服務器響應
Http.Send() '發(fā)送
If Http.readystate>4 Then '如果服務器沒反應,則退出函數(shù)
Exit Function
End If

GetFileText=bytes2BSTR(Http.responseBody,"GB2312") '把得到的數(shù)據(jù)流二進制文件轉化成文本字符格式 (GB2312)

Set http=Nothing '刪除對象
If err.number>0 Then err.Clear '如果有錯誤,清除錯誤
End Function

'// summary>
'// 采用 ADODB.Stream　處理采集到的數(shù)據(jù)，把二進制的文件轉成文本字符
'// /summary>
Function Bytes2bStr(vin,cSet)
Dim BytesStream,StringReturn
Set BytesStream = Server.createObject("ADODB.Stream")
BytesStream.Type = 2
BytesStream.Open
BytesStream.WriteText vin
BytesStream.Position = 0
BytesStream.CharSet = cSet
BytesStream.Position = 2
StringReturn =BytesStream.ReadText
BytesStream.close
Set BytesStream = Nothing
Bytes2bStr = StringReturn
End Function

下面我定義一個路徑變量 URL

URL = "http://ent.sina.com.cn/star/mainland/more.html";

上面是一個網址,如果我們想把上面這個地址采集下來,并顯示出來的話，我們可以這樣操作

URL = "http://ent.sina.com.cn/star/mainland/more.html";

Response.Write GetFileText(URL)

這樣就可以采集到上面網址的內容了
是不是很簡單呢

那采集到數(shù)據(jù)之后應該怎么操作呢
怎么區(qū)分數(shù)據(jù)，如果得到你想要的數(shù)據(jù)，如果把得到的數(shù)據(jù)入庫呢
這是以后需要分析講解的問題了入庫要注意的地方，用正表達式處理數(shù)據(jù)

附上上面代碼的源文件，大家可以下載下去，運行起來試試，是不是真的能采集到數(shù)據(jù)庫

標簽：萍鄉(xiāng) 衡水江蘇衢州大理廣元棗莊蚌埠

巨人網絡通訊聲明：本文標題《采集原理---采集技術篇---XMLHTTP》，本文關鍵詞；如發(fā)現(xiàn)本文內容存在版權問題，煩請?zhí)峁┫嚓P信息告之我們，我們將及時溝通與處理。本站內容系統(tǒng)采集于網絡，涉及言論、版權與本站無關。

佳木斯湛栽影视文化发展公司

采集原理---采集技術篇---XMLHTTP

QQ咨詢

電話咨詢