可以得出的结论
- OAI-SearchBot 到达了记录的网址。
- 响应状态显示爬虫是否可以访问该页面。
- 官方 IP 范围可用于更强的验证。
OAI-SearchBot 为 OpenAI 产品中的搜索体验发现并索引网页内容。
请求表示搜索爬虫为发现或维护索引而获取了某个网址。它应与 GPTBot 训练流量和 ChatGPT-User 页面获取分开评估。
Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko); compatible; OAI-SearchBot/1.0; +https://openai.com/searchbotTalivia 在规范化的 User-Agent 中查找稳定标记 OAI-SearchBot。
User-agent: OAI-SearchBot
Allow: /
# To block instead:
# Disallow: /使用 robots.txt 表达允许或阻止的抓取偏好。
当集成提供来自可信网络边界的来源 IP 时,Talivia 可以将其与提供商发布的范围进行比较。
查看官方来源在网站设置中开启收集。
从受信任的服务器或中间件发送最小事件。
查看页面、状态、趋势和验证置信度。
Talivia 首先匹配 OAI-SearchBot User-Agent 标记。当可信来源 IP 与提供商发布的范围匹配时,请求可获得更高的验证置信度。
在 robots.txt 中为 OAI-SearchBot 添加规则,并根据提供商的官方文档检查行为。robots.txt 表达抓取偏好,但不是访问控制或身份验证机制。
Talivia 保存主机名、清理后的路径、方法、User-Agent、可选状态码、分类和验证结果。它不会保存页面正文、Cookie、授权头、查询字符串或原始 IP 地址。
使用服务器端追踪开始记录真实请求。
添加您的网站