热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

php生成百度站点地图sitemap类函数

百度站点地图是百度工具中一个非常实用的功能,可以实时的让我们的网站给百度定时抓取,下面我们一起来看看由php生成的一个xml文档了.公司网站是问答百科的网站、seo工程师提出需求说根据网站的问题...
百度站点地图是百度工具中一个非常实用的功能,可以实时的让我们的网站给百度定时抓取,下面我们一起来看看由php生成的一个xml文档了.

公司网站是问答百科的网站、seo工程师提出需求说根据网站的问题来生成xml文件,每个xml文件包含5000条setmap格式数据,现在线上网站大约有70w条问题,所以说基本生成140个xml文件,还有一个索引文件,比如文件的名称以数字开头的,索引文件包含的内容就是每个xml文件的路径还有名称.

为什么要每个文件存储5000条数据呢,因为这是mysql的一个界限值、如果每次取多了以后可能会对线上用户访问造成影响,或者速度变慢,每个文件存储5000条数据,但是mysql selsect的时候不能每次取5000条、现在写的是每次取1000条,那这样逻辑就有点复杂.

先说一下实现:

首先取出1000条数据,可以灵活些成活的,方便以后修改,然后循环生成xml格式文件,file_puts_contens写入文件,然后再把生成的xml文件名称、取出问题的最小id、取出问题的最大id、取出问题的条数写出一个索引查询的txt文件当中,格式大概是这个样子的.

0,3146886,3145887,1000

发现最后面的条数是1000了吗、第一次select取出1000条数据、然后写入0.xml文件当中,把取出的xml文件名称、最小id、最大id、条数写入到索引查询txt中,第一次写入了1000条数据到0.xml、生成条数为1000,第二次查询的时候select语句会成为,where id > 取出的最大id,当前mysql为正序查询、如果为倒序、改成小于,limit 1000 这样的话又取出1000、然后修改索引查询txt的最小id、最大id、生成条数加到2000。以此类推等生成条数到了5000的时候再另起一行写入索引文件、类似这样.

0,3146886,3145887,5000

1,3148886,3147887,1000

这样写的话就减轻了服务器的压力,下面贴出实现代码,风格有点乱,代码如下:

 $psize ? $psize : ($maxXml - $arr[3]);
                $bs = 0;
            } else {
                $filename = $arr[0] + 1;
                $bs = 1;
            }
        }
        $maxid = emptyempty($arr[1]) ? 0 : $arr[1];
        $minid = emptyempty($arr[2]) ? 0 : $arr[2];
        echo "文件名称:" . $filename . ".xml" . "
"; echo "最大id:" . $maxid . "
"; echo "最小id:" . $minid . "
"; echo "xml写入最大记录:" . $maxXml . "
"; echo "数据库每次读取数量:" . $psize . "
"; $list = self::$questionObj->getQuestionSetMap($where, $maxid, $psize); if (count($list) <= 0) { echo 1; exit; } $record = $arr[3] + count($list); //索引文件写入记录数 $indexArr = array( &#39;filename&#39; => $filename, &#39;maxid&#39; => $maxid, &#39;minid&#39; => $minid, &#39;maxXml&#39; => $record ); $start = &#39;" . chr(10); $start.= ""; foreach ($list as $k => http: //pic4.phprm.com/2014/08/20/http://pic4.phprm.com/2014/08/20/$qinfo.jpg.jpg){ if ($k == 0) $indexArr[&#39;minid&#39;] = $qinfo[&#39;id&#39;]; $qinfo[&#39;lastmod&#39;] = substr($qinfo[&#39;lasttime&#39;], 0, 10); $qinfo[&#39;mobielurl&#39;] = self::$askMobileUrl . $qinfo[&#39;id&#39;] . &#39;.html&#39;; //移动版链接 $qinfo[&#39;pcurl&#39;] = self::$askPcUrl . $qinfo[&#39;id&#39;] . &#39;-p1.html&#39;; //pc版链接 $xml.= $this->askMapMobileUrl($qinfo); //移动版 $xml.= $this->askMapPcUrl($qinfo); //pc版 } $maxid = end($list); $indexArr[&#39;maxid&#39;] = $maxid[&#39;id&#39;]; //更新索引文件 if ($bs == 0) { //更新最后一行 $txt = file($index); $txt[count($txt) - 1] = $indexArr[filename] . &#39;,&#39; . $indexArr[maxid] . &#39;,&#39; . $indexArr[&#39;minid&#39;] . &#39;,&#39; . $indexArr[&#39;maxXml&#39;] . "\r\n"; $str = join($txt); if (is_writable($index)) { if (!$handle = fopen($index, &#39;w&#39;)) { echo "不能打开文件 $index"; exit; exit; } if (fwrite($handle, $str) === FALSE) { echo "不能写入到文件 $index"; exit; exit; } echo "成功地写入文件$index"; fclose($handle); } else { echo "文件 $index 不可写"; exit; } fclose($index); } elseif ($bs == 1) { //新加入一行 $fp = fopen($index, &#39;a&#39;); $num = count($list); $string = $indexArr[filename] . &#39;,&#39; . $indexArr[maxid] . &#39;,&#39; . $indexArr[&#39;minid&#39;] . &#39;,&#39; . $num . "\r\n"; if (fwrite($fp, $string) === false) { echo "追加新行失败。。。"; exit; } else { echo "追加成功
"; //更新sitemap索引文件 $xmlData = "" . chr(10); $xmlData.= ""; if (!file_exists($askXml)) file_put_contents($askXml, $xmlData); $fileList = file($askXml); $fileCount = count($fileList); $setmapxml = "http://www.xxx.cn/ask/setmapxml/{$filename}.xml"; //正常问题链接 $txt = $this->setMapIndex($setmapxml); $fileList[$fileCount - 1] = $txt . ""; $newCOntent= &#39;&#39;; foreach ($fileList as $v) { $newContent.= $v; } if (!file_put_contents($askXml, $newContent)) exit(&#39;无法写入数据&#39;); echo &#39;已经写入文档&#39; . $askXml; } fclose($fp); } $filename = APP_PATH . &#39;setmapxml/&#39; . $filename . &#39;.xml&#39;; //更新到xml文件中,增加结尾 if (!file_exists($filename)) file_put_contents($filename, $start); $xmlList = file($filename); $xmlCount = count($fileList); $xmlList[$xmlCount - 1] = $xml . ""; $newXml = &#39;&#39;; foreach ($xmlList as $v) { $newXml.= $v; } if (!file_put_contents($filename, $newXml)) exit("写入数据错误"); else echo "写入数据成功
"; } //问答移动版xml private function askMapMobileUrl($data) { $xml = &#39;&#39;; if (is_array($data) && !emptyempty($data)) { $xml.= "" . chr(10); if ($data[&#39;id&#39;]) $xml.= &#39;&#39; . $data[&#39;mobielurl&#39;] . &#39;&#39; . chr(10); //移动版链接 $xml.= "" . chr(10); if ($data[&#39;lastmod&#39;]) $xml.= &#39;&#39; . $data[&#39;lastmod&#39;] . &#39;&#39; . chr(10); $xml.= &#39;daily&#39; . chr(10); $xml.= &#39;0.8&#39; . chr(10); $xml.= "" . chr(10); return $xml; } } //问答pc版xml private function askMapPcUrl($data) { $xml = &#39;&#39;; if (is_array($data) && !emptyempty($data)) { $xml.= &#39;&#39; . chr(10); if ($data[&#39;id&#39;]) $xml.= &#39;&#39; . $data[&#39;pcurl&#39;] . &#39;&#39; . chr(10); //pc版链接 if ($data[&#39;lastmod&#39;]) $xml.= &#39;&#39; . $data[&#39;lastmod&#39;] . &#39;&#39; . chr(10); $xml.= &#39;daily&#39; . chr(10); $xml.= &#39;0.8&#39; . chr(10); $xml.= &#39;&#39; . chr(10); return $xml; } } //setmaps索引文件 private function setMapIndex($filename) { $xml = &#39;&#39;; $xml.= "" . chr(10); $xml.= "{$filename}" . chr(10); $xml.= "" . date("Y-m-d", time()) . "" . chr(10); $xml.= "" . chr(10); return $xml; } } ?>


xml索引文件格式,代码如下:

 
 
http://www.phprm.com/ask/setmapxml/0.xml 
2014-05-12 
 
 
http://www.phprm.com/ask/setmapxml/1.xml 
2014-05-12 
 

xml文件格式,每个文件需要存储5000条、现展示1条例子,实例代码如下:

 
 
http://m.xxx.cn/ask/7460.html 
 
2013-01-11 
daily 
0.8 
 
 


本文地址:

转载随意,但请附上文章地址:-)

推荐阅读
  • 本文介绍了在开发Android新闻App时,搭建本地服务器的步骤。通过使用XAMPP软件,可以一键式搭建起开发环境,包括Apache、MySQL、PHP、PERL。在本地服务器上新建数据库和表,并设置相应的属性。最后,给出了创建new表的SQL语句。这个教程适合初学者参考。 ... [详细]
  • 在说Hibernate映射前,我们先来了解下对象关系映射ORM。ORM的实现思想就是将关系数据库中表的数据映射成对象,以对象的形式展现。这样开发人员就可以把对数据库的操作转化为对 ... [详细]
  • 本文介绍了在SpringBoot中集成thymeleaf前端模版的配置步骤,包括在application.properties配置文件中添加thymeleaf的配置信息,引入thymeleaf的jar包,以及创建PageController并添加index方法。 ... [详细]
  • 如何实现织梦DedeCms全站伪静态
    本文介绍了如何通过修改织梦DedeCms源代码来实现全站伪静态,以提高管理和SEO效果。全站伪静态可以避免重复URL的问题,同时通过使用mod_rewrite伪静态模块和.htaccess正则表达式,可以更好地适应搜索引擎的需求。文章还提到了一些相关的技术和工具,如Ubuntu、qt编程、tomcat端口、爬虫、php request根目录等。 ... [详细]
  • 搭建Windows Server 2012 R2 IIS8.5+PHP(FastCGI)+MySQL环境的详细步骤
    本文详细介绍了搭建Windows Server 2012 R2 IIS8.5+PHP(FastCGI)+MySQL环境的步骤,包括环境说明、相关软件下载的地址以及所需的插件下载地址。 ... [详细]
  • 本文介绍了使用AJAX的POST请求实现数据修改功能的方法。通过ajax-post技术,可以实现在输入某个id后,通过ajax技术调用post.jsp修改具有该id记录的姓名的值。文章还提到了AJAX的概念和作用,以及使用async参数和open()方法的注意事项。同时强调了不推荐使用async=false的情况,并解释了JavaScript等待服务器响应的机制。 ... [详细]
  • PHP设置MySQL字符集的方法及使用mysqli_set_charset函数
    本文介绍了PHP设置MySQL字符集的方法,详细介绍了使用mysqli_set_charset函数来规定与数据库服务器进行数据传送时要使用的字符集。通过示例代码演示了如何设置默认客户端字符集。 ... [详细]
  • 本文讨论了Alink回归预测的不完善问题,指出目前主要针对Python做案例,对其他语言支持不足。同时介绍了pom.xml文件的基本结构和使用方法,以及Maven的相关知识。最后,对Alink回归预测的未来发展提出了期待。 ... [详细]
  • 本文介绍了如何使用php限制数据库插入的条数并显示每次插入数据库之间的数据数目,以及避免重复提交的方法。同时还介绍了如何限制某一个数据库用户的并发连接数,以及设置数据库的连接数和连接超时时间的方法。最后提供了一些关于浏览器在线用户数和数据库连接数量比例的参考值。 ... [详细]
  • 知识图谱——机器大脑中的知识库
    本文介绍了知识图谱在机器大脑中的应用,以及搜索引擎在知识图谱方面的发展。以谷歌知识图谱为例,说明了知识图谱的智能化特点。通过搜索引擎用户可以获取更加智能化的答案,如搜索关键词"Marie Curie",会得到居里夫人的详细信息以及与之相关的历史人物。知识图谱的出现引起了搜索引擎行业的变革,不仅美国的微软必应,中国的百度、搜狗等搜索引擎公司也纷纷推出了自己的知识图谱。 ... [详细]
  • 本文介绍了使用PHP实现断点续传乱序合并文件的方法和源码。由于网络原因,文件需要分割成多个部分发送,因此无法按顺序接收。文章中提供了merge2.php的源码,通过使用shuffle函数打乱文件读取顺序,实现了乱序合并文件的功能。同时,还介绍了filesize、glob、unlink、fopen等相关函数的使用。阅读本文可以了解如何使用PHP实现断点续传乱序合并文件的具体步骤。 ... [详细]
  • 本文介绍了在Mac上搭建php环境后无法使用localhost连接mysql的问题,并通过将localhost替换为127.0.0.1或本机IP解决了该问题。文章解释了localhost和127.0.0.1的区别,指出了使用socket方式连接导致连接失败的原因。此外,还提供了相关链接供读者深入了解。 ... [详细]
  • 解决VS写C#项目导入MySQL数据源报错“You have a usable connection already”问题的正确方法
    本文介绍了在VS写C#项目导入MySQL数据源时出现报错“You have a usable connection already”的问题,并给出了正确的解决方法。详细描述了问题的出现情况和报错信息,并提供了解决该问题的步骤和注意事项。 ... [详细]
  • Java验证码——kaptcha的使用配置及样式
    本文介绍了如何使用kaptcha库来实现Java验证码的配置和样式设置,包括pom.xml的依赖配置和web.xml中servlet的配置。 ... [详细]
  • 众筹商城与传统商城的区别及php众筹网站的程序源码
    本文介绍了众筹商城与传统商城的区别,包括所售产品和玩法不同以及运营方式不同。同时还提到了php众筹网站的程序源码和方维众筹的安装和环境问题。 ... [详细]
author-avatar
缔造霸道男的美好生活
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有