
資訊中心
網(wǎng)站robots文件是否需要放網(wǎng)站地圖
問題:網(wǎng)站robots文件是否需要放網(wǎng)站地圖?
回答:網(wǎng)站robots.txt這個文件里面是否放網(wǎng)站地圖是沒有影響的,通常我們在網(wǎng)站正式上線以后,都會去提交sitemap文件頁面,這樣搜索引擎就能知道網(wǎng)站地圖的存在,后面也會不斷的來抓取。所以沒有必要在robots文件里添加,當(dāng)然添加了也是可以的。
關(guān)于網(wǎng)站地圖的問題,百度發(fā)了及時清理歷史sitemap文件的公告,從這個公告中可以看出,目前搜索引擎對于網(wǎng)站頁面的抓取不會太過依賴網(wǎng)站地圖。相反,如果網(wǎng)站地圖的文件過大,還會影響到搜索引擎對網(wǎng)站新內(nèi)容頁面的抓取。所以大家不要糾結(jié)要不要在robots文件里添加網(wǎng)站地圖鏈接了,因?yàn)榫W(wǎng)站地圖的作用已經(jīng)明顯降低,對于數(shù)據(jù)并且自動更新網(wǎng)站地圖的網(wǎng)站來說,這個sitemap文件已經(jīng)有了雞肋的意思。
大家之所以想要在robots文件里面添加網(wǎng)站地圖,就是擔(dān)心怕某些頁面不會被搜索引擎抓取到。其實(shí)不用擔(dān)心,百度搜索的自動抓取功能已經(jīng)再次上線,只要網(wǎng)站頁面被打開,就會自動推送到百度搜索。至于蜘蛛抓取后收錄還是不收錄頁面,這就要另行討論了。
另外,前段時間百度搜索似乎在對robots這個功能進(jìn)行升級,經(jīng)常出現(xiàn)異常情況。這也說明百度會陸續(xù)對robots和網(wǎng)站地圖等這些基本功能進(jìn)行調(diào)整,所以我們不能繼續(xù)墨守成規(guī),過去使用的某些SEO技巧,放在現(xiàn)在未必就實(shí)用。
關(guān)于網(wǎng)站robots文件是否需要放網(wǎng)站地圖的問題,SEO就簡單的說這么多??傊畞碚f,網(wǎng)站地圖的功能已經(jīng)沒有那么好,大家不用在這個問題上浪費(fèi)時間,做好內(nèi)容建設(shè)和用戶體驗(yàn)才是王道。