Robots.txt là một loại tệp đặc thù không phải là HTML hay bất kể đồ vật gì tương tự. Mục đích của tệp robots.txt là để đưa cho các phương tiện tìm kiếm biết content nào trên trang web của bạn có lẽ được các bot thu thập và lập chỉ mục.
Sitemap robots txt
Sitemap txt
Mục đích của file Robots.txt là gì? Khi các công cụ tìm kiếm tìm kiếm thông tin về web site của bạn, tệp Robots.txt có thể là nơi đầu tiên họ search. Tệp này tặng các công cụ tìm kiếm biết những gì cần phải lập chỉ mục và những gì không nên lập chỉ mục. Bạn cũng thường xuyên cung cấp vị trí web của mình trong sơ đồ website XML. công cụ search gửi “chương trình”, “rô-bốt” hoặc “trình thu thập dữ liệu” để thu thập dữ liệu web site của bạn, theo có các hướng dẫn trong tệp Robots.txt (nếu tệp “rô-bốt” không được gửi, công cụ tìm kiếm sẽ không gửi ). .txt chỉ ra rằng điều này không thể lập chỉ mục). 
Sitemap robot
File Robots.txt nằm ở đâu? Tệp sơ đồ web site robots.txt thường nằm trong thư mục gốc. Bạn khả năng cao thuận lợi tạo một tệp trống và đặt tên là Robots.txt. Điều này sẽ Giúp cho bạn hạn chế các lỗi trang web và hoàn tất mọi công việc của mình. công cụ tìm kiếm tìm nạp dữ liệu các trang trang web đẹp. Ví dụ trang web bạn là sieutocviet.com thì file robots sẽ là sieutocviet.com/robots.txt File Robots mặc định của wordpress:
User-agent: * Disallow: /wp-admin/ Disallow: /wp-includes/
Hoặc Bạn có lẽ tham khảo lập trình này
User-agent: * Disallow: /wp-admin/ User-agent: * Allow: / Disallow: /*?* Disallow: /*/?* Sitemap: https://web.sieutocviet.com/sitemap.xml
