|
抓取遠程內容,之前一直都在用file_get_content函數,其實早就知道有curl這么一個好東西的存在,但是看了一眼后感覺使用頗有些復雜,沒有file_get_content那么簡單,再就是需求也不大,所以沒有學習使用curl。
直到最近,要做一個網頁小偷程序的時候才發現file_get_content已經完全不能滿足需求了。我覺得,在讀取遠程內容的時候,file_get_content除了使用比curl便捷以外,其他都沒有curl好。
php中curl和file_get_content的一些比較
主要區別:
學習才發現,curl支持很多協議,有FTP, FTPS, HTTP, HTTPS, GOPHER, TELNET, DICT, FILE以及LDAP,也就是說,它能做到很多file_get_content做不到的事情。curl在php可以實現遠程獲取和采集內容;實現php網頁版的FTP上傳下載;實現模擬登陸;實現接口對接(API),數據傳輸;實現模擬Cookie;下載文件斷點續傳等等,功能十分強大。
了解curl一些基本的使用后,才發現其實并不難,只不過記住里面一些設置參數,難弄一點,但是我們記住幾個常用的就可以了。
開啟curl:
因為php默認是不支持curl功能的,因此如果要用curl的話,首先需要在php.ini中開啟該功能,即去掉 ;extension= php_curl.dll 前面的分號,然后保存后重啟apache/iis就好了。
基本語法:
復制代碼 代碼如下:
$my_curl = curl_init(); //初始化一個curl對象
curl_setopt($my_curl, CURLOPT_URL, "http://www.jb51.NET"); //設置你需要抓取的URL
curl_setopt($my_curl,CURLOPT_RETURNTRANSFER,1); //設置是將結果保存到字符串中還是輸出到屏幕上,1表示將結果保存到字符串
$str = curl_exec($curl); //執行請求
echo $str; //輸出抓取的結果
curl_close($curl); //關閉url請求
最近需要獲取別人網站上的音樂數據。用了file_get_contents函數,但是總是會遇到獲取失敗的問題,盡管按照手冊中的例子設置了超時,可多數時候不會奏效:
$config['context'] = stream_context_create(array('http' => array('method' => "GET",
'timeout' => 5//這個超時時間不穩定,經常不奏效
)
));
這時候,看一下服務器的連接池,會發現一堆類似的錯誤,讓我頭疼萬分:
file_get_contents(http://***): failed to open stream…
現在改用了curl庫,寫了一個函數替換:
function curl_file_get_contents($durl){
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, $durl);
curl_setopt($ch, CURLOPT_TIMEOUT, 5);
curl_setopt($ch, CURLOPT_USERAGENT, _USERAGENT_);
curl_setopt($ch, CURLOPT_REFERER,_REFERER_);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
$r = curl_exec($ch);
curl_close($ch);
return $r;
}
如此,除了真正的網絡問題外,沒再出現任何問題。
這是別人做過的關于curl和file_get_contents的測試:
file_get_contents抓取google.com需用秒數:
2.31319094
2.30374217
2.21512604
3.30553889
2.30124092
curl使用的時間:
0.68719101
0.64675593
0.64326
0.81983113
0.63956594
差距很大?呵呵,從我使用的經驗來說,這兩個工具不只是速度有差異,穩定性也相差很大。
建議對網絡數據抓取穩定性要求比較高的朋友使用上面的 curl_file_get_contents函數,不但穩定速度快,還能假冒瀏覽器欺騙目標地址哦!
方法1: 用file_get_contents 以get方式獲取內容
復制代碼 代碼如下:
<?php
$url='http://www.domain.com/';
$html = file_get_contents($url);
echo $html;
?>
方法2: 用fopen打開url, 以get方式獲取內容
復制代碼 代碼如下:
<?php
$fp = fopen($url, 'r');
stream_get_meta_data($fp);
while(!feof($fp)) {
$result .= fgets($fp, 1024);
}
echo "url body: $result";
fclose($fp);
?>
方法3:用file_get_contents函數,以post方式獲取url
復制代碼 代碼如下:
<?php
$data = array ('foo' => 'bar');
$data = http_build_query($data);
$opts = array (
'http' => array (
'method' => 'POST',
'header'=> "Content-type: application/x-www-form-urlencodedrn" .
"Content-Length: " . strlen($data) . "rn",
'content' => $data
)
);
$context = stream_context_create($opts);
$html = file_get_contents('http://localhost/e/admin/test.html', false, $context);
echo $html;
?>
方法4:用fsockopen函數打開url,以get方式獲取完整的數據,包括header和body
復制代碼 代碼如下:
<?php
function get_url ($url,$cookie=false)
{
$url = parse_url($url);
$query = $url[path]."?".$url[query];
echo "Query:".$query;
$fp = fsockopen( $url[host], $url[port]?$url[port]:80 , $errno, $errstr, 30);
if (!$fp) {
return false;
} else {
$request = "GET $query HTTP/1.1rn";
$request .= "Host: $url[host]rn";
$request .= "Connection: Closern";
if($cookie) $request.="Cookie: $cookien";
$request.="rn";
fwrite($fp,$request);
while()) {
$result .= @fgets($fp, 1024);
}
fclose($fp);
return $result;
}
}
//獲取url的html部分,去掉header
function GetUrlHTML($url,$cookie=false)
{
$rowdata = get_url($url,$cookie);
if($rowdata)
{
$body= stristr($rowdata,"rnrn");
$body=substr($body,4,strlen($body));
return $body;
}
return false;
}
?>
方法5:用fsockopen函數打開url,以POST方式獲取完整的數據,包括header和body
復制代碼 代碼如下:
<?php
function HTTP_Post($URL,$data,$cookie, $referrer="")
{
// parsing the given URL
$URL_Info=parse_url($URL);
// Building referrer
if($referrer=="") // if not given use this script as referrer
$referrer="111″;
// making string from $data
foreach($data as $key=>$value)
$values[]="$key=".urlencode($value);
$data_string=implode("&",$values);
// Find out which port is needed 主站蜘蛛池模板: 国产在线观看香蕉视频 | 久久91精品久久久久久水蜜桃 | 亚洲日本在线不卡二区 | 国产扒开美女双腿屁股流白浆 | 久草热在线 | 99九九99九九九视频精品 | 亚洲呦女专区 | 99精品国产在热久久 | 免费被靠视频动漫 | 日本视频中文字幕一区二区 | 色戒2小时38分在线观看 | 在线观看视频中文字幕 | 茎身铃口调教 | 日韩精品在线观看免费 | 2021久久最新国产精品 | 亚洲中文日韩日本在线视频 | 国产WW高清大片免费看 | av先锋影音资源男人站 | 东北嫖妓对白粗口 | 首页_亚洲AV色老汉影院 | 99久久99| 特级毛片全部免费播放免下载 | 黑兽在线观看高清在线播放樱花 | 亚洲精品久久无码AV片WWW | 羞羞漫画在线播放 | 亚洲乱妇88网 | 男女做爽爽爽视频免费软件 | 精品水蜜桃久久久久久久 | 亚洲午夜精品久久久久久抢 | 欧美亚洲高清国产 | 插我一区二区在线观看 | 麻花传媒XK在线观看 | 偷拍 拍自 欧美色区 | 亚洲人成77777| 日本高清不卡码无码v亚洲 日本福利片午夜免费观着 日本粉嫩学生毛绒绒 | 最新无码国产在线视频 | 日本大片免a费观看视频 | 动漫美女的阴 | 国产a级午夜毛片 | 久久电影精品久久99久久 | 久久这里只有精品无码3D |