6、什么是Robots?Robots.txt文件放在哪里?

發布時間:2019-11-12 19:49:23   瀏覽人數: 9897 次  

答:搜索引擎通過一種程序robot(又稱spider),自動訪問互聯網上的網頁并獲取網頁信息。

可以在網站中創建一個純文本文件robots.txt,在這個文件中聲明該網站中不想被robot訪問的部分,這樣,該網站的部分或全部內容就可以不被搜索引擎收錄了,或者指定搜索引擎只收錄指定的內容。

robots.txt文件應該放在網站根目錄下。舉例來說,當robots訪問一個網站(比如http://www.abc.com)時,首先會檢查該網站中是否存在http://www.abc.com/robots.txt這個文件,如果機器人找到這個文件,它就會根據這個文件的內容,來確定它訪問權限的范圍。


資料來源網絡,僅供學習交流,如您發現本文中有涉嫌抄襲,請發送郵件至:support@iisp.com,一經查實,本站將立刻刪除涉嫌侵權內容。


上一篇:7、什么是外鏈?如何做?
下一篇:5、什么是sitemap?

旗下網站:耐思智慧 - 淘域網 - 我的400電話 - 中文域名:耐思尼克.cn 耐思尼克.top

耐思智慧 © 版權所有 Copyright © 2000-2025 IISP.COM,Inc. All rights reserved

備案號碼: 粵ICP備09063828號  公安備案號: 公安備案 粵公網安備 44049002000123號  域名注冊服務機構許可:粵D3.1-20240003 CN域名代理自深圳萬維網

聲明:本網站中所使用到的其他各種版權內容,包括但不限于文章、圖片、視頻、音頻、字體等內容版權歸原作者所有,如權利所有人發現,請及時告知,以便我們刪除版權內容

本站程序界面、源代碼受相關法律保護, 未經授權, 嚴禁使用; 耐思智慧 © 為我公司注冊商標, 未經授權, 嚴禁使用

法律顧問:珠海知名律師 廣東篤行律師事務所 夏天風 律師

主站蜘蛛池模板: 蜜桃导航一精品导航站| 亚洲免费网站观看视频| 视频免费1区二区三区| 国产精品亚洲综合一区在线观看| 99自拍视频在线观看| 师尊要被cao坏了by谦野| 久久久久亚洲av成人无码| 精品国产一区二区三区AV性色| 国产凌凌漆国语| 人人添人人澡人人澡人人人爽| 国产精品视频久久| 99久久无码一区人妻| 天天躁日日躁aaaaxxxx| 三级黄色片免费看| 无码国产色欲xxxx视频| 久久久精品免费| 日韩亚洲欧美在线| 五月综合色婷婷| 欧美中文字幕在线播放| 亚洲小说图片视频| 欧美激情视频二区| 亚洲第一区精品日韩在线播放| 男人添女人p免费视频动态图| 全黄性性激高免费视频| 精品福利一区二区免费视频| 国产一区二区三区不卡在线观看 | 18禁无遮拦无码国产在线播放| 国内精品久久久久精品| 99久久免费精品国产72精品九九| 天堂va视频一区二区| a一级毛片免费高清在线| 太深太粗太爽太猛了视频| www.怡红院| 天天摸天天摸色综合舒服网| freesexvideo性欧美医生护士| 女人张腿让男桶免费视频大全| 下面一进一出好爽视频| 性孕妇video国产中国| 亚洲AV成人噜噜无码网站| 欧美v日韩v亚洲v最新| 亚洲乱妇老熟女爽到高潮的片 |