Google、ヘルプ記事を更新。Googlebotがサイトをクロールする際にrobots.txtファイルをリクエストして使用する仕組みをより詳細に説明|海外SEO情報ブログ
«  robots.txtを取得できなかった場合。「最初の12時間、サイトのクロールを停止するというのは初めて知りました」。
    

■ この記事を見た人はこんな記事も見ています