Các pro chỉ giùm tối ưu hóa file Robots.txt của Wordpress

daikin013

Hero
Verified
Joined
May 31, 2011
Messages
1,219
Reactions
2,459
MR
0.071
$350.00
Chat with me via Skype
Mình muốn các công cụ tìm kiếm index tối đa site, cái file Robots.txt của mình có nội dung mặc định là:


Có phải để file Robots.txt trống sẽ tốt hơn không?

Tiện thể mình hỏi luôn: File Robots.txt có block đc IP không nhỉ? nếu đc thì mong các pro chỉ luôn

Thanks
 

newbie07

Newbie
Joined
Jul 20, 2011
Messages
274
Reactions
138
MR
0.000
File robots.txt có tác dụng điều hướng đối với bot của Search Engine (SE) (và chỉ có tác dụng với bot của SE nên không block IP hay bann IP nào cả. Nó không giống htaccess là file cấu hình đặc biệt). Giả sử site cậu có một bộ phận nào đó "nhạy cảm" mà cậu không muốn nó bị các bot của SE "trườn" qua thì lúc đó cần ghi thêm vào robots.txt để các bot bỏ qua chỗ đó. File này nếu cấu hình tốt cũng sẽ có lợi cho SEO. Nhưng nếu muốn được index tối đa site thì file robots.txt là không thể đủ. Nó còn phụ thuộc nhiều yếu tố khác!
 
File robots.txt có tác dụng điều hướng đối với bot của Search Engine (SE) (và chỉ có tác dụng với bot của SE nên không block IP hay bann IP nào cả. Nó không giống htaccess là file cấu hình đặc biệt). Giả sử site cậu có một bộ phận nào đó "nhạy cảm" mà cậu không muốn nó bị các bot của SE "trườn" qua thì lúc đó cần ghi thêm vào robots.txt để các bot bỏ qua chỗ đó. File này nếu cấu hình tốt cũng sẽ có lợi cho SEO. Nhưng nếu muốn được index tối đa site thì file robots.txt là không thể đủ. Nó còn phụ thuộc nhiều yếu tố khác!

vậy file Robots có nên để trống hay để như mặc định bác?
 
vậy file Robots có nên để trống hay để như mặc định bác?
File robots.txt sẽ có dạng như sau:
User-agent: *
Disallow: /wp-
Disallow: /feed/
Disallow: /trackback/
User-agent:* :Có nghĩa là tất cả những robot tìm kiếm từ Google, Yahoo, MSN, Baidu nên sử dụng hướng dẫn này để mấy thằng SE nó tìm chú
Disallow: /wp- : Dòng code này báo cho công cụ tìm kiếm biết nó không nên “soi mói” ở những file của WordPress bắt đầu bằng wp-.
Ngoài ra với lệnh Disallow với files và folders mà chú không muốn SE không muốn nó “soi mói”, ví dụ:
User-agent: *
Disallow: /images/
Disallow: /cgi-bin/
Tự động tạo robots.txt
Còn đối với Google Webmaster thì họ cũng cho phép chú tạo file robots.txt hoặc chú vô đây Robots.txt Generator để tự động tạo file robots.txt cho mình
Sau khi chú đã tạo xong file robots.txt hãy Save lại và upload Root là hoàn thành.

---------- Post added at 08:24 AM ---------- Previous post was at 08:17 AM ----------

P/s : Pro đây không hỏi cứ phải lập topic :D:))=))
 
Last edited by a moderator:
vậy file Robots có nên để trống hay để như mặc định bác?

Cậu có thể Google cú pháp dùng của file robots.txt. Không nên để trắng. Nếu là WP thì nếu có cài plugin AIO SEO Pack hay XML Sitemap gì đó (t ko nhớ chính xác) nó tự động tạo 1 virutal robots.txt (nếu mình chưa có 1 file thật) với nội dung disable crawl vào wp-admin và wp-includes. Khi mình đã tạo file robots.txt thật thì cũng nên giữ 2 cái này. Ngoài ra cậu có thể thêm thắt những cái khác tùy mục đích... Và muốn tạo điều kiện cho SE index tốt thì nên chọn theme thân thiện với bot SE, không nên hoa mĩ (cẩn thận mấy theme free rao đầy trên mạng là SEO theme...kẻo dính shell :)) ), cần tối ưu nội dung site...Giờ Google đánh giá rất cao những site load nhanh đấy :))
 

kc2000

Banned
Joined
Mar 23, 2011
Messages
87
Reactions
1,154
MR
0.000
Cậu có thể Google cú pháp dùng của file robots.txt. Không nên để trắng. Nếu là WP thì nếu có cài plugin AIO SEO Pack hay XML Sitemap gì đó (t ko nhớ chính xác) nó tự động tạo 1 virutal robots.txt (nếu mình chưa có 1 file thật) với nội dung disable crawl vào wp-admin và wp-includes. Khi mình đã tạo file robots.txt thật thì cũng nên giữ 2 cái này. Ngoài ra cậu có thể thêm thắt những cái khác tùy mục đích... Và muốn tạo điều kiện cho SE index tốt thì nên chọn theme thân thiện với bot SE, không nên hoa mĩ (cẩn thận mấy theme free rao đầy trên mạng là SEO theme...kẻo dính shell :)) ), cần tối ưu nội dung site...Giờ Google đánh giá rất cao những site load nhanh đấy :))

Có theme nào SE tốt bác giới thiệu e vài cái :binhsua163:
 

Announcements

Today's birthdays

Forum statistics

Threads
423,982
Messages
7,135,826
Members
176,455
Latest member
Thuongkbn

Most viewed of week

Most discussed of week

Most viewed of week

Most discussed of week

Back
Top Bottom