当前位置:Gxlcms > PHP教程 > 一个新闻采集功能,朋友们指教!解决思路

一个新闻采集功能,朋友们指教!解决思路

时间:2021-07-01 10:21:17 帮助过:20人阅读

一个新闻采集功能,朋友们指教!
批量采集的时候有时候会有一些新闻不能采集到(只是少部分),不清楚什么原因,朋友们帮看下
我是采集腾讯的新闻
PHP code

$url = "http://news.qq.com/newsgn/zhxw/shizhengxinwen.htm";
$urlcontent = file_get_contents($url);

preg_match_all("//isU", $urlcontent, $urlcontent);
//程序运行到此正常,能拿出列表页要采集新闻的连接
$urllength=count($urlcontent[1]);

$conpattern = "/.+

(.+)<\/h1>.+(.+)<\/span>.+(.+)/isU"; for($i=0;$i<=$urllength-1;$i++){ $newstr = file_get_contents($urlcontent[1][$i]); preg_match_all($conpattern, $newstr, $art_arr); if(isset($art_arr[1][0])){ //因为有时候采集不到,所以我在这里判断下,问题就在这里,不知道什么原因采集不到,朋友们帮分析下。谢谢了 echo $art_arr[1][0]."
"; } }



------解决方案--------------------
你怎么也认真的判断一下file_get_contents的返回值吧。
------解决方案--------------------
file_get_contents换curl吧,

$url = "http://news.qq.com/newsgn/zhxw/shizhengxinwen.htm";
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
$urlcontent = curl_exec($ch);
curl_close($ch);

人气教程排行