技術:Djangoでrobots.txtを設定する
問題:Djangoでrobots.txtを設定して、グーグルクローラーにクロールしないように指示を出したい。グーグルクローラーがサイトページをすべてクロールしてしまっていた。不必要なページが、グーグルのアドポリシー違反となり、警告が繰り返された。
URLディレクトリの設定:
TemplateView
を利用して、robots.txt
へのパスを設定しますtemplate/static/
ディレクトリにrobots.txt
を作成します。Disallow: /abcfile
と記入すると、abcfile
にグーグルがクロールしないように指示を出せます。