跳到正文
熱點事件持續更新

Distill遵守Google-Extended規則

1 篇報道1 個報道來源3 小時前更新

先了解這件事

AI 綜述

2026年10月28日,DEV Community 報道 Hybrid Forge Lab 的 Distill 抓取器如何處理 Google-Extended 的 robots.txt 規則。報道指出,Google-Extended 並非實際執行抓取的爬蟲,但 Distill 仍會遵守網站 robots.txt 中與該標記相關的規則。報道給出的原因是,Google-Extended 標記代表網站拒絕其內容用於大型語言模型(LLM)。因此,報道所述的情況是:Distill 雖非 Google-Extended,仍按該標記表達的網站內容使用限制行事。

AI 根據報道生成 · 3 小時前更新

報道時間線

沿着報道,瞭解事件的不同側面。

10月28日
  1. DEV Community
    Google-Extended 並非爬蟲:為何 Distill 抓取器仍會遵守其規則

    Hybrid Forge Lab 的 Distill 即使 Google-Extended 並非實際爬蟲,仍會遵守其 robots.txt 規則,因為該標記代表網站拒絕內容用於 LLM。

本事件熱度走勢

還沒有足夠的連續觀測數據,暫不繪製趨勢。