技術:Djangoでrobots.txtを設定する
問題:Djangoでrobots.txtを設定して、グーグルクローラーにクロールしないように指示を出したい。グーグルクローラーがサイトページをすべてクロールしてしまっていた。不必要なページが、グーグルのアドポリシー違反となり、警告が繰り返された。
URLディレクトリの設定:
TemplateViewを利用して、robots.txtへのパスを設定しますtemplate/static/ディレクトリにrobots.txtを作成します。Disallow: /abcfileと記入すると、abcfileにグーグルがクロールしないように指示を出せます。