Skip to content

robots.txtからTRPL 1関連のDisallowなどを削除する #5

New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Merged
merged 1 commit into from
Jun 1, 2020

Conversation

tatsuya6502
Copy link
Member

robots.txtからTRPL 1関連のDisallowなどのエントリーを削除する。

  • TRPL 1関連のページをGoogleなどのサーチエンジンのインデックスから外すために robots.txt の記述でクローリングの対象外にしていたが、すでにサーチエンジンに登録済みのページには効果がないことがわかった。
  • 正しい方法は meta noindexタグを使うこと。rustbookリポジトリの変更 でタグを追加し、 the-rust-programming-language-jaリポジトリの この変更 でHTMLに反映する。
  • robots.txtのDisallowの記述は不要なうえ、それがあると、サーチエンジンのクローリングが行われず、noindexタグが認知されなくなってしまう。

@tatsuya6502 tatsuya6502 merged commit e6dc035 into master Jun 1, 2020
@tatsuya6502 tatsuya6502 deleted the allow-trpl1 branch September 26, 2020 03:10
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

Successfully merging this pull request may close these issues.

1 participant
pFad - Phonifier reborn

Pfad - The Proxy pFad of © 2024 Garber Painting. All rights reserved.

Note: This service is not intended for secure transactions such as banking, social media, email, or purchasing. Use at your own risk. We assume no liability whatsoever for broken pages.


Alternative Proxies:

Alternative Proxy

pFad Proxy

pFad v3 Proxy

pFad v4 Proxy