年龄验证页面阻止网站 - 需要允许谷歌吗?

 海哭的声音2602928847 发布于 2022-12-31 01:45

我在.net为酒精公司创建了一个网络应用程序.

客户要求拒绝对网站的所有访问权限,除非用户同意他们在其县内的年龄并且他们同意这些条款.

为了实现此功能,我只需将所有流量重定向到验证页面,在那里他们可以设置新会话,表示他们已同意(在此次访问时)这些条款.设置会话后,该站点即可完全访问.

我的问题是,我想谷歌等人抓取并索引网站上的所有页面.如何确保机器人不会被年龄验证页面捕获,这是确保我的整个网站被抓取的最佳做法.

1 个回答
  • .NET Framework的HttpWebRequest负责大部分工作.在Page_Load您的代码隐藏文件中,您可以轻松检查爬虫:

    if(Request.Browser.Crawler)
    

    如果它的爬虫(例如GoogleBot)手动绕过年龄验证

    2022-12-31 02:17 回答
撰写答案
今天,你开发时遇到什么问题呢?
立即提问
热门标签
PHP1.CN | 中国最专业的PHP中文社区 | PNG素材下载 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有