Robots.txt là dạng không thể tập tin đặc biệt có lẽ không phải bỗng nhiên là HTML hay không một loại nào khác. đã Mục đích của chậm việc có file robots.txt là khai nhanh báo cho công thôi cụ search biết rằng cả những content nào sẽ trên trang web của bạn được cho phép các bot search và lập chỉ mục.

MỤC thực tiễn ĐÍCH CỦA FILE ROBOTS.TXT LÀ GÌ?

Khi có thường một công cụ chỉ search thông báo trang chớ web của bạn, cần điều đầu tiên cũng mà nó search rất đa số là ngay file Robots.txt . File nhanh này sẽ nói với công nhất cụ search những bỗng nhiên gì cần và không mới cần lập chỉ mục. chẳng Nó cũng có chớ lẽ chỉ không thể ra vị nhanh trí trang web lắm của bạn đột nhiên trên XML Sitemap. Sau đó các công cụ search sẽ gửi “bot”, “robot” hoặc “spider” để thu thập thông báo trang web của bạn theo giống như có các hướng dẫn của file Robots.txt (các công cụ search sẽ không gửi nếu file Robot.txt nói với họ là không thể chỉ mục).

FILE bài viết ROBOTS.TXT NẰM Ở ĐÂU?

File Robots.txt có lẽ nằm ở chưa thư mục gốc cũ của bạn, bạn có lẽ bỗng nhiên lợi ích tạo lắm một file trống luôn và đặt tên chưa là Robots.txt, điều chưa này giúp bạn cả giảm thiểu được mới các lỗi cho trang chớ web cùng lúc cho phép đa số các công cụ search thu thập thông báo về trang web của bạn. Ví dụ trang web bạn là sieutocviet.com thì file robots sẽ là sieutocviet.com/robots.txt

File Robots.txt rất mặc định rất của Word press:

User-agent: * Disallow hữu dụng : /wp-admin/ Disallow dữ : /wp-includes/

Hoặc không tính phí Bạn có lẽ tham khảo code này

User-agent: * Disallow: đang /wp-admin/ User-agent: những * Allow: / những Disallow: /*?* chậm Disallow: /*/?* Sitemap: https://web.sieutocviet.com/sitemap.xml

MỘT đánh giá SỐ VÍ DỤ KHÁC VỀ ROBOTS.TXT

Chặn bot lại không cho ngay chỉ mục đa số chẳng trang web Bạn nhất có câu lệnh cần giống như sau: User-agent:* Disallow: nhanh / Lệnh đột nhiên này có ý nghĩa: “Không cho phép lại các bot của công thường cụ search đăng lại nhập và đánh chỉ mục trên đa số tài nguyên có trên trang web của bạn.” Chặn bot chỉ mục vào một thư mục nhất định User-agent:* Disallow: /wp-admin/ Disallow: /wp-includes/ Lệnh này có nghĩa: “Cho phép bot lập chỉ mục đa số data trừ 2 thư mục /wp-admin/ và /wp-includes/ là không cho phép.” Chặn một trang hay đường dẫn đến bài viết nào đó User-agent:* Disallow: /gioi-thieu.html Lệnh này có nghĩa: “Cho phép bot đánh chỉ mục đa số các data trừ đường dẫn /gioi-thieu.html” Chặn một hình ảnh nào đó User-agent:* Disallow: /images/tenhinhanhcanchan.jpg Lệnh này có nghĩa: “Chặn một hình ảnh nào đó từ trang web của bạn, ngăn không cho các bot search và lập chỉ mục cho hình ảnh đó.” Chặn một loại bot nào đó User-agent:Spambot Disallow: / Lệnh này có nghĩa: “Chặn botspam đăng nhập đa số data trên trang web của bạn”. Trong khi đó các bot khác thì được quyền truy cập” Chặn đa số các data trong một thư mục trừ một file nào đó User-agent:* Disallow: /thumucbichan/ Allow: /thumucbichan/filekhongbichan.html Lệnh này có nghĩa: “Chặn bot search đa số data trong thư mục /thumucbichan/ nhưng cho phép lập chỉ mục file /filekhongbichan.html”