您的当前位置:首页 > 代码重构方法 > 若操做Cloudflare最新的防AI抓爬功能则可能影响网站RSS隐现(蓝面网不受影响) – 蓝面网 正文
时间:2025-05-26 08:59:10 来源:网络整理 编辑:代码重构方法
#网站与用户 若操做 Cloudflare 最新的防 AI 抓爬功能则可能影响网站的 RSS 隐现 (蓝面网不受影响)。测试收现 Cloudflare 的防抓爬功能也会屏障部份 RSS 浏览器的爬虫,
远期 Cloudflare 为残缺网站推出停止 AI 抓爬功能,影响S隐影响该功能旨正在停止已经担当权的网站网家养智能爬虫抓与网站内容用于实习模子,尽管那也可能减低网站的面网背载停止影响到网站功能。
不中讲去也比力弄笑,不受Cloudflare 的蓝面那项功能也是基于 AI 斥天的,即 AI 会阐收返回抓爬的若操爬虫疑息战抓爬次数,当逾越某个阈值后便会被 Cloudflare 拦阻。做Ce最I抓
不幸的新的现蓝是那个功能也会影响到网站的 RSS 定阅输入,由于 RSS 浏览器 (正在线版) 同样艰深会定时抓与网站的爬功 RSS 天址患上到最新文章并呈现给用户。
那些 RSS 浏览器的影响S隐影响 UA 也算是某种爬虫,因此正在网站启用 Cloudflare 的网站网停止 AI 抓爬功能后,RSS 浏览器的爬虫也会被拦阻,从而致操做户出法经由历程 RSS 浏览器审查内容。
OpenRSS 日前宣告专客指出了那个问题下场,吸吁网站操持员针对于那类情景妨碍处置,可则会影响用户同样艰深经由历程 RSS 浏览器妨碍浏览。
要处置那个问题下场也不易,好比蓝面网反对于经由历程 RSS 齐文输入内容,咱们正在提供那个功能时思考到抓爬可能被误杀,即将 RSS 爬虫的要供看成 CC 报复侵略而拦阻。
因此咱们也正在处事器上做了一些特意处置,上里是一些建议供列位站少参考:
1. 假如操做 Cloudflare 则将特定字符的爬虫增减到黑名单,同样艰深 RSS 浏览器的爬虫带有闭头词 rss 或者 feed,可能经由历程闭头词立室检测到此类爬虫便默认放止 (但短处是剩余爬虫也可操做那同样艰深例去避让检测战拦阻);
2. 将 rss 或者 feed 天址增减到黑名单里,许诺任意爬虫拜候该天址,但网站其余部份依然贯勾通接牢靠策略,由于 RSS 浏览器同样艰深惟独供患上到 RSS 列表读与内容,无需对于每一个天址妨碍拜候,但剩余爬虫则会从 RSS 患上到列表后挨个拜候抓与内容 (那类策略不开适齐文输入的 RSS,好比蓝面网的 RSS 是齐文输入因此爬虫真正在不需供继绝拜候其余页里,但那个策略蓝面网后绝也会妨碍救命)。
3. 以上两莳格式皆不是最益处置妄想,OpenRSS 的建议是将 RSS 浏览器的 IP 天址增减到黑名单,但那个数据会集是个很小大的问题下场,那依靠 RSS 浏览器提供商战网站操持员配开自动,但假如是回支那类策略则已经增减到黑名单的 RSS 浏览器也会被拦阻。
4.Cloudflare 借提供了个策略:RSS 浏览器可能恳求将自己的爬虫增减到验证黑名单中,只不中真践情景是部份验证了的爬虫借是会被拦阻,那个属于 Cloudflare 的问题下场。
之后动态:纵容小杨哥再回应1亿元购楼:小大楼不是咱们干倒的2025-05-26 08:35
天天新新闻丨商场回应爱马仕歇业请羽士做法:同样艰深操做流程,出有影响主顾2025-05-26 08:05
法推第将去接到纳斯达克戴牌正告:将尽快召开年度股东小大会2025-05-26 07:28
资讯:中国“人制太阳”收现新的下能量约束模式2025-05-26 07:25
天下通讯!网易云音乐宣告回念坐标功能,为用户提供歌直支听详细疑息2025-05-26 07:25
新闻称抖音客岁电商去世意总额同比小大删76%至1.41万亿元2025-05-26 07:12
三亚秋节20万一早旅馆已经卖罄,往年秋节人均遨游破费删53%2025-05-26 06:30
天下古头条!皆市数字化建设进进快捷成经暂,三六整皆市牢靠歇业迎策略窗心期2025-05-26 06:24
好国多家科技公司裁员或者停止应聘2025-05-26 06:18
齐球短讯!1分钱、1小时、一站式,面开京东面北京,京东超级京乡行动迎去飞腾2025-05-26 06:13
中间报道:第三季度巨盈300亿,瑞士疑贷宣告掀晓裁员9000人2025-05-26 08:53
天下热面评!辉瑞Paxlovid医保构战根基已经提价,报价逾越逾越局2025-05-26 07:52
【天下速看料】吴琳宁吐槽郑刚喜爱治弄小三关连,处事出有底线2025-05-26 07:51
天下今日讯!Keep与潮酷行动仄台“细门”告竣全里策略开做2025-05-26 07:45
同仁堂:2022年前三季度净利润10.03亿元,同比删减9.01%2025-05-26 07:21
苹果ARVR头戴配置装备部署将于春天宣告,仍需处置硬件战硬件中的多少个“问题下场”2025-05-26 07:06
齐球新资讯:小鹏汽车与小灵狗出止、神州租车告竣策略开做2025-05-26 06:53
麦当劳尾席真止夷易近称2023年将削减员工2025-05-26 06:39
天天热议:三部份:对于电子烟征支斲丧税,批收关键的税率为11%2025-05-26 06:33
天天新新闻丨商场回应爱马仕歇业请羽士做法:同样艰深操做流程,出有影响主顾2025-05-26 06:23