# robots.txt —— 星欧娱乐 / 星欧平台(https://www.absjcw.cn/) # 维护:星欧文化传播(北京)有限公司 · 内容技术组 # 说明:允许抓取全部公开内容页;仅屏蔽构建脚本、日志与 404 页 User-agent: * Allow: / Disallow: /404.html Disallow: /logs/ Disallow: /baidu-push.sh Disallow: /baidu-push.conf Disallow: /build.ps1 # 百度 User-agent: Baiduspider Allow: / Disallow: /404.html Crawl-delay: 1 # 百度移动端 User-agent: Baiduspider-mobile Allow: / Disallow: /404.html Crawl-delay: 1 # 谷歌 User-agent: Googlebot Allow: / # 必应 User-agent: Bingbot Allow: / # 搜狗 User-agent: Sogou web spider Allow: / # 360 User-agent: 360Spider Allow: / # 采集类工具 User-agent: AhrefsBot Disallow: / User-agent: SemrushBot Disallow: / User-agent: MJ12bot Disallow: / Sitemap: https://www.absjcw.cn/sitemap.xml Host: https://www.absjcw.cn