網(wǎng)站robots.txt文件的安全設(shè)置
大家都知道robots.txt文件,能限制搜索引擎可以抓取哪些內(nèi)容,不準(zhǔn)抓取哪些內(nèi)容。比如我們網(wǎng)站的后臺(tái)就不希望被搜索抓取,那么robots文件需要這樣寫:
User-agent: *
Disallow: /dede/
但是,如果有人要破解網(wǎng)站的話,通過robots文件很容易就知道了后臺(tái)地址,清楚了網(wǎng)站的結(jié)構(gòu)。這對網(wǎng)站安全造成了威脅,我們并不希望這樣!下面有兩種方法解決這個(gè)問題
一、使用通符(*)
User-agent: *
Disallow: /d*/
這種的寫法是禁止所有的搜索引擎抓取根目錄下d開頭的目錄。那么,當(dāng)你的后臺(tái)是dede5的時(shí)候,還有誰會(huì)猜得到呢?
二、只寫前幾個(gè)字母
User-agent: *
Disallow: /de/
這樣寫是禁止所有的搜索引擎抓取根目錄下de開頭的目錄。如果你的其他欄目有de開頭的,你就要在robots.txt文件里面多寫一個(gè)字母。
聲明:
1.本站主要是為了記錄工作、學(xué)習(xí)中遇到的問題,可能由于本人技術(shù)有限,內(nèi)容難免有紕漏,一切內(nèi)容僅供參考。
2.本站部分內(nèi)容來源互聯(lián)網(wǎng),如果有圖片或者內(nèi)容侵犯您的權(quán)益請聯(lián)系我們刪除!
3.本站所有原創(chuàng)作品,包括文字、資料、圖片、網(wǎng)頁格式,轉(zhuǎn)載時(shí)請標(biāo)注作者與來源。
1.本站主要是為了記錄工作、學(xué)習(xí)中遇到的問題,可能由于本人技術(shù)有限,內(nèi)容難免有紕漏,一切內(nèi)容僅供參考。
2.本站部分內(nèi)容來源互聯(lián)網(wǎng),如果有圖片或者內(nèi)容侵犯您的權(quán)益請聯(lián)系我們刪除!
3.本站所有原創(chuàng)作品,包括文字、資料、圖片、網(wǎng)頁格式,轉(zhuǎn)載時(shí)請標(biāo)注作者與來源。
THE END