可以得出的结论
- 该请求匹配 Claude-SearchBot。
- 可以查看请求路径和 HTTP 结果。
- 可以将搜索发现与其他 Claude 活动进行比较。
Claude-SearchBot 访问页面,以改善 Claude 体验中的搜索相关性和发现。
该爬虫身份表示 Anthropic 所描述的搜索导向发现。它应属于索引分析,而不是模型训练或用户触发请求总数。
Claude-SearchBot/1.0Talivia 在规范化的 User-Agent 中查找稳定标记 Claude-SearchBot。
User-agent: Claude-SearchBot
Allow: /
# To block instead:
# Disallow: /使用 robots.txt 表达允许或阻止的抓取偏好。
提供商发布了爬虫行为指南,但 Talivia 不会仅凭 User-Agent 标记声称网络身份已验证。
查看官方来源在网站设置中开启收集。
从受信任的服务器或中间件发送最小事件。
查看页面、状态、趋势和验证置信度。
Talivia 匹配 Claude-SearchBot User-Agent 标记,并明确标示验证置信度。User-Agent 可以被伪造,因此标记匹配本身不是身份保证。
在 robots.txt 中为 Claude-SearchBot 添加规则,并根据提供商的官方文档检查行为。robots.txt 表达抓取偏好,但不是访问控制或身份验证机制。
Talivia 保存主机名、清理后的路径、方法、User-Agent、可选状态码、分类和验证结果。它不会保存页面正文、Cookie、授权头、查询字符串或原始 IP 地址。
使用服务器端追踪开始记录真实请求。
添加您的网站