全球主机交流论坛备用站

 找回密码
 立即注册

QQ登录

只需一步,快速开始

全球云38元起免备案V2EX搬瓦工VPS
SEO查询超级PING网站测速
Virmach特价鸡乌云漏洞吾爱破解
查看: 56|回复: 2

有無最安全的防止網站被網絡上所有爬蟲發現的辦法?

[复制链接]

410

主题

810

回帖

3374

积分

论坛元老

Rank: 8Rank: 8

积分
3374
发表于 2025-4-6 15:10:17 | 显示全部楼层 |阅读模式
20230417
本帖最后由 httpd 于 2025-4-6 15:12 编辑

我目前採用robots.txt+.htpasswd的辦法,直到有一天我在某搜索引擎site:發現居然被索引了HTTP驗證的字樣,正經的蜘蛛都這樣,不正規的不是和去他家客廳一樣簡單
MJJ,你的签名掉了~~~
回复

使用道具 举报

6

主题

638

回帖

1900

积分

金牌会员

Rank: 6Rank: 6

积分
1900
发表于 2025-4-6 15:33:16 | 显示全部楼层
robots.txt 靠的是自觉
MJJ,你的签名掉了~~~
回复 支持 反对

使用道具 举报

125

主题

728

回帖

2727

积分

金牌会员

Rank: 6Rank: 6

积分
2727
发表于 2025-4-6 16:08:51 | 显示全部楼层
加人机验证码
MJJ,你的签名掉了~~~
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

展开

QQ|Archiver|手机版|小黑屋|全球主机交流论坛备用站

GMT+8, 2025-5-2 20:31 , Processed in 0.044915 second(s), 26 queries , Gzip On.

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表