Google ми даде следната грешка при обхождане на мрежата:
В подробност пише:
До колкото знам robots.txt се слага само при забрана за индексиране а аз не искам да забранявам индексирането на страниците.Как да оправя тази грешка?
Googlebot обхожда сайтовете, като следва връзките от страница към страница. Срещнахме проблеми при обхождането на изброените тук страници, затова те няма да бъдат добавени към индекса ни и няма да се показват в резултатите от търсенето.
В подробност пише:
robots.txt не е достъпен
До колкото знам robots.txt се слага само при забрана за индексиране а аз не искам да забранявам индексирането на страниците.Как да оправя тази грешка?