Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

rDNS, sitemap и проблемы с индексацией #50

Open
awesomenow opened this issue Feb 21, 2022 · 2 comments
Open

rDNS, sitemap и проблемы с индексацией #50

awesomenow opened this issue Feb 21, 2022 · 2 comments

Comments

@awesomenow
Copy link

awesomenow commented Feb 21, 2022

В последнее время поисковые системы очень плохо индексируют сайт. То ли из-за все более сильных массовых ограничений в данной нише, то ли что-то не так с работой опции rDNS и доступа к sitemap только ботам.

В логах временами значатся такие ошибки:
FAKE [REVERSE] 93.158.161.70 YANDEX. 015ms Error: getHostByAddr ENOTFOUND 93.158.161.70
редко но бывают, именно те где вроде бы все в порядке, есть действительная PTR и соответственно А запись, или все же здесь что-то не так и я что-то упускаю? но их очень мало, в большинстве они действительно ложные. Есть еще PETALBOT, но у них у многих адресов просто нет А.

яндекс более менее индексирует, google с трудом, bing вообще пустой. На bing завязан ddg и там получается тоже пусто.

Также google перестал принимать sitemap почему-то, отображает "не получено".

Проверил доступ к карте сайта через интерфейс search console. Показывает URL доступен Google, но если открыть код страницы, то там будет следующее:

<sitemap>
<loc>https://example.search/mobile-version/sitemap/year/2022</loc>
</sitemap>
<sitemap>
<loc>https://example.search/mobile-version/sitemap/year/2021</loc>
</sitemap>
-//-
<sitemap>
<loc>https://example.search/sitemap/year</loc>
</sitemap>
<sitemap>
<loc>https://example.search/sitemap/genre</loc>
</sitemap>
-//-

почему-то часть карты он видит через мобильную версию. С яндексом такой проблемы нет.

если пойти дальше и прогнать https://example.search/sitemap/year, то все адреса будут с /mobile-version/. А по ним пусто. Соответственно нечего брать.

@awesomenow
Copy link
Author

66.249.66.159 - - [22/Feb/2022:03:02:13 +0300] "GET /sitemap/year/2021 HTTP/1.1" 302 5 "-" "Mozilla/5.0 (Linux; Android 6.0.1; Nexus 5X Build/MMB29P) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/98.0.4758.102 Mobile Safari/537.36 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)"
66.249.66.129 - - [22/Feb/2022:03:02:14 +0300] "GET /mobile-version/sitemap/year/2021 HTTP/1.1" 200 0 "-" "Mozilla/5.0 (Linux; Android 6.0.1; Nexus 5X Build/MMB29P) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/98.0.4758.102 Mobile Safari/537.36 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)"

sitemap вроде не должен перенаправлять на мобильную версию

@whatsin1
Copy link

whatsin1 commented Oct 5, 2022

У меня яндекс вообще не индексирует сайт, все страницы малоценные. Зато гугл без проблем кушает страницы. И большая часть из них мобильная версия, кстати.

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants