6、什么是Robots?Robots.txt文件放在哪里?

發布時間:2019-11-12 19:49:23   瀏覽人數: 9920 次  

答:搜索引擎通過一種程序robot(又稱spider),自動訪問互聯網上的網頁并獲取網頁信息。

可以在網站中創建一個純文本文件robots.txt,在這個文件中聲明該網站中不想被robot訪問的部分,這樣,該網站的部分或全部內容就可以不被搜索引擎收錄了,或者指定搜索引擎只收錄指定的內容。

robots.txt文件應該放在網站根目錄下。舉例來說,當robots訪問一個網站(比如http://www.abc.com)時,首先會檢查該網站中是否存在http://www.abc.com/robots.txt這個文件,如果機器人找到這個文件,它就會根據這個文件的內容,來確定它訪問權限的范圍。


資料來源網絡,僅供學習交流,如您發現本文中有涉嫌抄襲,請發送郵件至:support@iisp.com,一經查實,本站將立刻刪除涉嫌侵權內容。


上一篇:7、什么是外鏈?如何做?
下一篇:5、什么是sitemap?

旗下網站:耐思智慧 - 淘域網 - 我的400電話 - 中文域名:耐思尼克.cn 耐思尼克.top

耐思智慧 © 版權所有 Copyright © 2000-2025 IISP.COM,Inc. All rights reserved

備案號碼: 粵ICP備09063828號  公安備案號: 公安備案 粵公網安備 44049002000123號  域名注冊服務機構許可:粵D3.1-20240003 CN域名代理自深圳萬維網

聲明:本網站中所使用到的其他各種版權內容,包括但不限于文章、圖片、視頻、音頻、字體等內容版權歸原作者所有,如權利所有人發現,請及時告知,以便我們刪除版權內容

本站程序界面、源代碼受相關法律保護, 未經授權, 嚴禁使用; 耐思智慧 © 為我公司注冊商標, 未經授權, 嚴禁使用

法律顧問:珠海知名律師 廣東篤行律師事務所 夏天風 律師

主站蜘蛛池模板: 欧美日韩国产综合视频在线看| 荡女安然的yin乱生活| 天天干天天色天天干| 中文字幕精品一二三四五六七八| 欧美乱xxxxx| 亚洲精品中文字幕无乱码| 精品久久洲久久久久护士免费| 国产国语一级毛片在线视频| 色爱区综合激情五月综合激情| 在线播放免费播放av片| 一区二区三区视频网站| 手机国产乱子伦精品视频| 久久午夜夜伦鲁鲁片无码免费| 杨幂13分20秒未删减bt| 亚洲图片欧美文学小说激情| 波多野结衣教师诱惑| 免费一级毛片无毒不卡| 精品福利视频一区二区三区| 国产aa免费视频| 被黑人猛躁10次高潮视频| 国产对白真实伦视频在线| 香蕉视频一区二区三区| 国产香蕉精品视频在| 99精品视频在线观看免费| 好好的曰www视频在线观看| 丁香六月纪婷婷激情综合| 日本伊人色综合网| 久久机热这里只有精品无需| 日韩视频免费一区二区三区| 亚洲一级视频在线观看| 欧美成人免费在线| 亚洲欧美日韩综合久久久久| 波多野结衣中文字幕一区| 亚洲香蕉免费有线视频| 狠狠色综合网站久久久久久久高清 | 四虎www成人影院| 英国video性精品高清最新| 国产传媒在线观看视频免费观看| 麻豆一二三四区乱码| 国产成人a毛片在线| 91精品国产人成网站|