robots.txtをサイトにアップロードしたい

robots.txtをサイトにアップロードしたい

サイトの運用でクローラーのリソースを削減するため、robots.txtを設定するケースは多くあります。しかし、robots.txtへの記述はスキルや知識が必要になります。また、弊社にてアップロードの仕組みとすると、即時対応が難しいケースが発生するため、jobMAKERには、管理画面からrobots.txtを設定することが出来る機能が搭載されております。

設定は以下の手順で行うことが出来ます。
1.管理画面>サイト設定>robots.txt設定を開く

2.表示される設定画面から希望の内容で設定して、青い「変更する」ボタンをクリックする
※変更するボタンをクリックしたタイミングで、robots.txtファイルが新たに生成されます。既存データの上書きとなりますので、設定変更の際はご注意ください。

robots.txtの設定は以下の項目のみ管理画面からチェックボックス形式で設定を行うことが出来ます。
クローラーやディレクトリの指定はフリー入力となっておりますので、ご希望のクローラー名やディレクトリ名を記入してください。

ウェブサイト全体でクロールを禁止
ディレクトリとその内容のクロールを禁止
1 つのクローラに対してのみアクセスを許可
特定の 1 クローラを除くすべてのクローラに対してアクセスを許可

上記以外の設定をご希望の場合は、個別に弊社での設定が必要となります。その場合は営業担当までご相談くださいませ。
robots.txtで何を設定すればどのような効果があるのかにつきましては、以下のGoogleのサポートページをご確認くださいませ。

<ご注意点>
robots.txtの記述のルール上、以下の場合は同時設定が許可されていないため、システム上でも同時設定ができない仕組みとなっておりますので、ご了承くださいませ。

「ウェブサイト全体でクロールを禁止」と「ディレクトリとその内容のクロールを禁止」
「ウェブサイト全体でクロールを禁止」と「特定の1クローラを除くすべてのクローラに対してアクセスを許可」
「1つのクローラに対してのみアクセスを許可」と「特定の1クローラを除くすべてのクローラに対してアクセスを許可」
Powered by Helpfeel