怎么通过PHP程序知道蜘蛛是否访问你的网站，附代码

week9 · 发表于 2005-4-11

多谢鱼哥给通过申请，我没有太好的建站经验，就先给大家一个抓蜘蛛的东西吧。<br /><br />搜索引擎的蜘蛛访问网站是通过远程抓取页面来进行的，我们不能使用JS代码来取得蜘蛛的Agent信息，但是我们可以通过image标签，这样我们就可以得到蜘蛛的agent资料了，通过对agent资料的分析，就可以确定蜘蛛的种类、性别等因素，我们在通过数据库或者文本来记录就可以进行统计了。<br /><br />下面是我的程序和源代码：<br />数据库结构：<br><br><div class="msgbody"><div class="msgheader"><div class="right"><a href="###" class="smalltxt" onclick="copycode($('code0'));">[Copy to clipboard]</a> <a class="smalltxt" href="###" onclick="toggle_collapse('code0');">[ <span id="code0_symbol">-</span> ]</a></div>CODE:</div><div class="msgborder" id="code0">#<br /># 表的结构 `naps_stats_bot`<br />#<br /><br />CREATE TABLE `naps_stats_bot` (<br />  `botid` int(10) unsigned NOT NULL auto_increment,<br />  `botname` varchar(100) NOT NULL default '',<br />  `botagent` varchar(200) NOT NULL default '',<br />  `bottag` varchar(100) NOT NULL default '',<br />  `botcount` int(11) NOT NULL default '0',<br />  `botlast` datetime NOT NULL default '0000-00-00 00:00:00',<br />  `botlasturl` varchar(250) NOT NULL default '',<br />  UNIQUE KEY `botid` (`botid`),<br />  KEY `botname` (`botname`)<br />) TYPE=MyISAM AUTO_INCREMENT=9 ;<br /><br />#<br /># 导出表中的数据 `naps_stats_bot`<br />#<br /><br />INSERT INTO `naps_stats_bot` VALUES (1, 'Googlebot', 'Googlebot/2.X (+http://www.googlebot.com/bot.html)', 'googlebot', 0, '0000-00-00 00:00:00', '');<br />INSERT INTO `naps_stats_bot` VALUES (2, 'MSNbot', 'MSNBOT/0.1 (http://search.msn.com/msnbot.htm)', 'msnbot', 0, '0000-00-00 00:00:00', '');<br />INSERT INTO `naps_stats_bot` VALUES (3, 'Inktomi Slurp', 'Slurp/2.0', 'slurp', 0, '0000-00-00 00:00:00', '');<br />INSERT INTO `naps_stats_bot` VALUES (4, 'Baiduspider', 'Baiduspider+(+http://www.baidu.com/search/spider.htm)', 'baiduspider', 0, '0000-00-00 00:00:00', '');<br />INSERT INTO `naps_stats_bot` VALUES (5, 'Yahoobot', 'Mozilla/5.0+(compatible;+Yahoo!+Slurp;+http://help.yahoo.com/help/us/ysearch/slurp)', 'slurp', 0, '0000-00-00 00:00:00', '');<br />INSERT INTO `naps_stats_bot` VALUES (6, 'Sohubot', 'sohu-search', 'sohu-search', 0, '0000-00-00 00:00:00', '');<br />INSERT INTO `naps_stats_bot` VALUES (7, 'Lycos', 'Lycos/x.x', 'lycos', 0, '0000-00-00 00:00:00', '');<br />INSERT INTO `naps_stats_bot` VALUES (8, 'Robozilla', 'Robozilla/1.0', 'robozilla', 0, '0000-00-00 00:00:00', '');</div></div><br>PHP程序：<br><br><div class="msgbody"><div class="msgheader"><div class="right"><a href="###" class="smalltxt" onclick="copycode($('code1'));">[Copy to clipboard]</a> <a class="smalltxt" href="###" onclick="toggle_collapse('code1');">[ <span id="code1_symbol">-</span> ]</a></div>CODE:</div><div class="msgborder" id="code1"><?PHP<br />/***************************************************************************<br /> * NAPS -- Network Article Publish System<br /> * ----------------------------------------------<br /> *                                 bot.php<br /> *                            -------------------<br /> *   begin                : 2004-08-15<br /> *   copyright            : (C) 2004 week9<br /> *   email                : wapshow@gmail.com<br /> *   homepage             : http://www.week9.com<br /> *                          http://www.wapshow.com<br /> *<br /> ***************************************************************************/<br /><br />/***************************************************************************<br /> *<br /> *   This program is free software; you can redistribute it and/or modify<br /> *   it under the terms of the GNU General Public License as published by<br /> *   the Free Software Foundation; either version 2 of the License.<br /> *<br /> ***************************************************************************/<br /><br />/***************************************************************************<br /> *<br /> *   NAPS产品是自由软件。你可以且必须根据《GNU GPL-GNU通用公共许可证》的相关规定<br /> *   复制、修改及分发NAPS产品。任何以NAPS产品为基础的衍生发行版未必须经过飘飘的授权。<br /> *<br /> ***************************************************************************/<br /><br />error_reporting(E_ALL & ~E_NOTICE);<br /><br />function get_naps_bot()<br />{<br />        $useragent = strtolower($_SERVER['HTTP_USER_AGENT']);<br />                        <br />        if (strpos($useragent, 'googlebot') !== false){<br />                return 'Googlebot';<br />        }<br />        <br />        if (strpos($useragent, 'msnbot') !== false){<br />                return 'MSNbot';<br />        }<br />        <br />        if (strpos($useragent, 'slurp') !== false){<br />                return 'Yahoobot';<br />        }<br />        <br />        if (strpos($useragent, 'baiduspider') !== false){<br />                return 'Baiduspider';<br />        }<br />        <br />        if (strpos($useragent, 'sohu-search') !== false){<br />                return 'Sohubot';<br />        }<br />        <br />        if (strpos($useragent, 'lycos') !== false){<br />                return 'Lycos';<br />        }<br />        <br />        if (strpos($useragent, 'robozilla') !== false){<br />                return 'Robozilla';<br />        }        <br />        return false;<br />}<br /><br />$tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']);<br />//添加蜘蛛的抓取记录<br />$searchbot = get_naps_bot();<br />if ($searchbot) {<br />        $DB_naps->query("UPDATE naps_stats_bot SET botcount=botcount+1, botlast=NOW(), botlasturl='$tlc_thispage' WHERE botname='$searchbot'");<br />}<br /><br />?></div></div><br>引用方法：<br><br><div class="msgbody"><div class="msgheader"><div class="right"><a href="###" class="smalltxt" onclick="copycode($('code2'));">[Copy to clipboard]</a> <a class="smalltxt" href="###" onclick="toggle_collapse('code2');">[ <span id="code2_symbol">-</span> ]</a></div>CODE:</div><div class="msgborder" id="code2"><img src="http://www.week9.com/naps/stat/bot.php" width="0" height="0"></div></div><br>[<i> Last edited by week9 on 2005-4-12 at 09:06 </i>]

同风 · 发表于 2005-4-11

php的看不太懂，asp怎么写呢？<br />另外，有什么办法让蜘蛛成为回头客？三天二头来？

mylh · 发表于 2005-4-11

<br><br><div class="msgbody"><div class="msgheader">QUOTE:</div><div class="msgborder">Originally posted by <i>同风</i> at 2005-4-11 17:00<br />php的看不太懂，asp怎么写呢？<br />另外，有什么办法让蜘蛛成为回头客？三天二头来？ </div></div><br>说到偶滴心里去了

小新 · 发表于 2005-4-11

抓的意思应该是诱导蜘蛛在自己站里不停的爬...

上海小鱼儿 · 发表于 2005-4-11

让蜘蛛成为回头客,三天二头来？<br />你想办法让的你的PR值升到3以上，最好4。<br />回答完毕！

week9 · 发表于 2005-4-12

<br><br><div class="msgbody"><div class="msgheader">QUOTE:</div><div class="msgborder">Originally posted by <i>上海小鱼儿</i> at 2005-4-11 17:29<br />让蜘蛛成为回头客,三天二头来？<br />你想办法让的你的PR值升到3以上，最好4。<br />回答完毕！ </div></div><br>我的是4 已经被google给遗弃了好久没有来了！

		自动登录	找回密码
密码			注册