CursedSoul
Registered
Как мога да направя така, че търсачките да не индексират сайта ми която и да е търсачка да не го индексира въобще моля не питайте защо лични причини благодаря.
Follow along with the video below to see how to install our site as a web app on your home screen.
Бележка: This feature may not be available in some browsers.
CursedSoul каза:Как мога да направя така, че търсачките да не индексират сайта ми която и да е търсачка да не го индексира въобще моля не питайте защо лични причини благодаря.
CursedSoul каза:Как мога да направя така, че търсачките да не индексират сайта ми която и да е търсачка да не го индексира въобще моля не питайте защо лични причини благодаря.
User-Agent: *
Disallow: /
diabolic_bg каза:Ако питаш мен, най-добре направи и двете, за да си сигурен. Гугъл вдигат много шум за този robots.txt, но не е ясно колко го спазват собствените им роботи.
И в момента в уебмастърските инструменти на Гугъл имам списък от около 2500 адреса, които пише, че са забранени от robots.txt. И това наистина е така - от една година съм ги забранил. Ами като са забранени, баба си ли търсят ботовете да ги сканират и да ми пишат, че съм ги забранил?![]()
А ето ти и малка част от това, което са записали ботчетата въпреки негоUser-Agent: *
Disallow: /phpbb2/viewtopic.php
Disallow: /phpbb2/viewforum.php
Disallow: /phpbb2/index.php?
Disallow: /phpbb2/posting.php
Disallow: /phpbb2/groupcp.php
Disallow: /phpbb2/search.php
Disallow: /phpbb2/login.php
Disallow: /phpbb2/privmsg.php
Disallow: /phpbb2/post.php
Disallow: /phpbb2/member
Disallow: /phpbb2/profile.php
Disallow: /phpbb2/memberlist.php
Disallow: /phpbb2/portale.php?
Disallow: /phpbb2/viewonline.php
Disallow: /phpbb2/faq.php
Disallow: /phpbb2/sitemap.php
Disallow: /phpbb2/announcements.php
Disallow: /phpbb2/googlepuller.php
Disallow: /phpbb2/function.*
Disallow: /phpbb2/request_actmail.php
Disallow: /phpbb2/tictactoe.php
Disallow: /phpbb2/meta_tag_creator.php
Disallow: /phpbb2/linkus.php
Disallow: /phpbb2/archive/forum*/images/
Disallow:
Всички забрани целят да се сканират само пренаписаните адреси с разширение .html.http://wasteland-bg.com/phpbb2///group...hp?sid=0d8d05ef2743276fcabe251fc91ff577 URL адресът е ограничен от robots.txt Помощ
30.12.2008
http://wasteland-bg.com/phpbb2///post8806.html URL адресът е ограничен от robots.txt Помощ
18.12.2008
http://wasteland-bg.com/phpbb2///profile.php?mode=editprofile URL адресът е ограничен от robots.txt Помощ
21.12.2008
http://wasteland-bg.com/phpbb2///profile.php?mode=sendpassword URL адресът е ограничен от robots.txt Помощ
25.12.2008
http://wasteland-bg.com/phpbb2///viewtopic.php?p=186&highlight=10 URL адресът е ограничен от robots.txt Помощ
21.12.2008
http://wasteland-bg.com/phpbb2///viewtopic.php?p=2121&highlight=1 URL адресът е ограничен от robots.txt Помощ
27.12.2008
http://wasteland-bg.com/phpbb2///viewtopic.php?p=2436&highlight=000 URL адресът е ограничен от robots.txt Помощ
27.12.2008
http://wasteland-bg.com/phpbb2///viewtopic.php?p=3235&highlight=0 URL адресът е ограничен от robots.txt Помощ
31.12.2008
http://wasteland-bg.com/phpbb2///viewtopic.php?p=3235&highlight=02d URL адресът е ограничен от robots.txt Помощ
31.12.2008
http://wasteland-bg.com/phpbb2///viewtopic.php?p=3450&highlight=0 URL адресът е ограничен от robots.txt Помощ
25.12.2008
http://wasteland-bg.com/phpbb2///viewtopic.php?p=3576&highlight=0 URL адресът е ограничен от robots.txt Помощ
21.12.2008
http://wasteland-bg.com/phpbb2///viewtopic.php?p=4658&highlight=1 URL адресът е ограничен от robots.txt Помощ
27.12.2008
http://wasteland-bg.com/phpbb2///viewtopic.php?p=5495&highlight=00%D1%87 URL адресът е ограничен от robots.txt Помощ
25.12.2008
http://wasteland-bg.com/phpbb2///viewtopic.php?p=554&highlight=03 URL адресът е ограничен от robots.txt Помощ
30.12.2008
http://wasteland-bg.com/phpbb2///viewtopic.php?p=5811&highlight=0 URL адресът е ограничен от robots.txt Помощ
26.12.2008
http://wasteland-bg.com/phpbb2///viewtopic.php?p=608&highlight=000 URL адресът е ограничен от robots.txt Помощ
30.12.2008
http://wasteland-bg.com/phpbb2///viewtopic.php?p=7699&highlight=1 URL адресът е ограничен от robots.txt Помощ
30.12.2008
http://wasteland-bg.com/phpbb2///viewtopic.php?p=803&highlight=0 URL адресът е ограничен от robots.txt Помощ
26.12.2008
http://wasteland-bg.com/phpbb2///viewtopic.php?p=904&highlight=1 URL адресът е ограничен от robots.txt Помощ
27.12.2008
http://wasteland-bg.com/phpbb2///viewtopic.php?p=906&highlight=1 URL адресът е ограничен от robots.txt Помощ
27.12.2008
http://wasteland-bg.com/phpbb2///viewtopic.php?p=908&highlight=10 URL адресът е ограничен от robots.txt Помощ
27.12.2008
http://wasteland-bg.com/phpbb2///viewtopic.php?p=912&highlight=06 URL адресът е ограничен от robots.txt Помощ
27.12.2008
http://wasteland-bg.com/phpbb2//groupcp.php?sid=0d8d05ef2743276fcabe251fc91ff577 URL адресът е ограничен от robots.txt Помощ
30.12.2008
http://wasteland-bg.com/phpbb2//portale.php?mode=spiders&start=1000 URL адресът е ограничен от robots.txt Помощ
27.12.2008
http://wasteland-bg.com/phpbb2//portale.php?mode=spiders&start=1100 URL адресът е ограничен от robots.txt Помощ
27.12.2008
diabolic_bg каза:///group...hp?sid=0d8d05ef2743276fcabe251fc91ff577 URL адресът е ограничен от robots.txt Помощ
30.12.2008
StormBreaker каза:diabolic_bg каза:///group...hp?sid=0d8d05ef2743276fcabe251fc91ff577 URL адресът е ограничен от robots.txt Помощ
30.12.2008
Това в червеното видя ли го? Даже и на български ти е написано. Бота не е нужно да отвори линка, за да разбере че му е забранено.
diabolic_bg каза:StormBreaker каза:diabolic_bg каза:///group...hp?sid=0d8d05ef2743276fcabe251fc91ff577 URL адресът е ограничен от robots.txt Помощ
30.12.2008
Това в червеното видя ли го? Даже и на български ти е написано. Бота не е нужно да отвори линка, за да разбере че му е забранено.
Чак до там не съм окьоравял, че да не го видя. Факт е, че бяха изчистени до 0, сега почнаха отново да си преравят старата база данни и ги извадиха отново, а не виждам къде е смисълът да ми казват, че съм забранил нещо, за което аз прекрасно знам. Просто е нелогично и затова се съмнявам, че само robots.txt е достатъчен да ги ограничи.
Това е.