DevProTalk

DevProTalk (http://www.devprotalk.com/index.php)
-   Web aplikacije, web servisi i software (http://www.devprotalk.com/forumdisplay.php?f=30)
-   -   Googlebot mi pojede 28GB protoka! (http://www.devprotalk.com/showthread.php?t=3998)

ljtruba 15. 11. 2007. 01:29

Googlebot mi pojede 28GB protoka!
 
Pomagajte, Googlebot mi na forumu pojede 28GB protoka.
Ne mogu vise da placam toliki hosting :1095:

Jel ima neko resenje za robots.txt fajl kako da kažem botu da dolazi jednom nedeljno?

Guglao sam, ali nisam našao pravo rešenje.

mileusna 15. 11. 2007. 02:04

Prijavi site ako već nisi na Google Webmasters Tools, pa u Tools -> Set Crawler Rate čekiraj Slower. Nisam se igrao sa tim ali piše da tome služi.

Citat:

A slower crawl will reduce Googlebot's traffic on your server, but we may not be able to crawl your site as often.

MorenoArdohain 15. 11. 2007. 02:06

Mozda da napravis sitemap.xml koji ce reci crawleru sta da indeksira?
Overi ovo:
https://www.google.com/webmasters/to.../protocol.html
kao i deo za <changefreq>

Takodje, Google webmaster tools moze pomoci (https://www.google.com/webmasters/tools/siteoverview) jer tamo mozes definisati brzinu crawlovanja (Set Crawl rate opcija).

To su samo neke ideje.

ljtruba 15. 11. 2007. 02:48

Citat:

Originalno napisao mileusna (Napišite 46704)
Prijavi site ako već nisi na Google Webmasters Tools, pa u Tools -> Set Crawler Rate čekiraj Slower. Nisam se igrao sa tim ali piše da tome služi.

Uradio sam to. Hvala ti. Morao sam prvo da verifikujem da je to moj sajt, a nisam to video. Pozdrav

ljtruba 17. 11. 2007. 11:08

Smanjio sam crawler rate na slower, ali Googlebot dolazi i dalje svaki dan u 1h posle ponoci i napravi mi otprilike 1GB protoka.
Da li mogu da mu kazem da dolazi jednom nedeljno?

U pitanju je forum www.hifi-forumi.com gde ne bih zeleo da "prune"-ujem stare teme, jer su sve znacajne.

mileusna 17. 11. 2007. 12:26

Citat:

Originalno napisao ljtruba (Napišite 46827)
Smanjio sam crawler rate na slower, ali Googlebot dolazi i dalje svaki dan u 1h posle ponoci i napravi mi otprilike 1GB protoka.
Da li mogu da mu kazem da dolazi jednom nedeljno?

U pitanju je forum www.hifi-forumi.com gde ne bih zeleo da "prune"-ujem stare teme, jer su sve znacajne.

Sve što setuješ u webmasters tools neće odmah imati efektra. Sačekaj malo pa vidi da li će se crawlingu usporiti.

Nego da ti lepo promeniš hosting i prestaneš da brineš o protoku? ;)

ZeroStyle 17. 11. 2007. 16:11

Meni je to malo cudno da ti za jednu noc google bot potrosi 1GB bandwitha , mislim ipak je to samo tekst osim ako nemas neku sekciju na forumu gdje posjetioci upladuju slike. E te slike ti mogu onda odnijet puno protoka.

Kako god mozes probat taj nacin sto su ti kolege predlozile a mozes i preko htaccess-a da blokiras google bota.

Medjutim to i nije bas dobra ideja jer te vise google bot nece moc obilazit i nece ti moc indeksirat site.

Ja sam imao takav slican problem ali sa nekim lijevim botom i blokiram ga, on se pojavi sa drugom ip, ja blokiram on opet dok sam mu ja stao u kraj citav protok za taj mjesec je vec bio otisao. Onda fno kupim novi hst na dreamhostu i prebacim sve. :D

Sad sve sljaka super.

Pogledaj i ovaj link usput:
http://www.google.com/support/webmas....py?topic=8843

BrainDamage 20. 11. 2007. 01:38

Jesi siguran da te to neko drugi ne crawl-uje sa fake referrer stringom? I mene je g-bot neko vrijeme satirao, ali nije bilo ni blizu 1GB dnevno. Toliko je uzimao Yahoo-ov Slurp, pa sam mu na kraju "rekao" da uopste ne zalazi na /forum - znalo je biti i po par desetina botova odjednom... smrt.

Peca 20. 11. 2007. 01:52

ume yahoo slurp da dodje na sajt i sa 250 botova.
kod mene su stalno, mada u manjem broju [50-100], ali jednom sam ih zatekao 250 komada [sve sa razlicitih ip adresa, opseg isti, yahoo-ov]

kameleon 09. 04. 2009. 15:39

Nije mi jasno kako Googlebot može da uzme 28GB protoka?


Vreme je GMT +2. Trenutno vreme je 08:00.

Powered by vBulletin® Verzija 3.6.8
Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
Copyright © DevProTalk. All Rights Reserved.

Mišljenja, saveti, izjave, ponude ili druge informacije ili sadržaji nastali na Sajtu su vlasništvo onoga ko ih je kreirao, a ne DevProTalk.com, tako da ne morate da se oslanjate na njih.
Autori poruka su jedini odgovorni za ovakve sadržaje. DevProTalk.com ne garantuje tačnost, kompletnost ili upotrebnu vrednost informacija, stavova, saveta ili datih izjava. Ne postoje uslovi pod kojima bi mi bili odgovorni za štetu ili gubitak koji je posledica bilo čijeg oslanjanja na nepouzdane informacije, ili bilo kakve informacije nastale kroz komunikaciju između registrovanih članova.
Web sajt može sadržavati linkove na druge web sajtove na Internetu ili neke druge sadržaje. Ne kontrolišemo niti podržavamo te druge web sajtove, niti smo pregledali bilo kakve sadržaje na takvim sajtovima. Mi nećemo biti odgovorni za legalnost, tačnost ili prikladnost bilo kog sadržaja, oglasa, proizvoda, usluga ili informacije lociranim na ili distribuiranih kroz druge web sajtove, niti za bilo kakvu štetu nastalu kao posledica takvih informacija. DevProTalk.com drži i čuva druga prava vlasništva na web sajtu. Web sajt sadrže materijale zaštićene copyright-om, zaštitne znakove i druge informacije o pravu vlasništva ili softver. Članovi mogu poslatu informacije zaštićene pravima vlasništva njihovih nosilaca i ona ostaju zaštićena bez obzira da li su oni koji prenose te informacije to naveli ili ne. Osim informacija koje su u javnom vlasništvu ili za koje dobijete dozvolu, nemate pravo da kopirate, modifikujete ili na bilo koji način menjate, objavljujete, prenosite, distribuirate, izvršavate, prikazujete ili prodajte bilo koju informaciju zaštićenu pravima vlasništva. Slanjem informacija ili sadržaja na bilo koji deo DevProTalk.com, Vi automatski dozvoljavate i predstavljate garanciju da imate pravo da dozvolite DevProTalk.com ili članovima DevProTalk.com bespovratnu, kontinualnu, neograničenu, globalnu dozvolu da koriste, kopiraju, izvršavaju, prikazuju i distribuiraju takve informacije i sadržaje i da iz takvih sadžaja koriste bilo koji deo u bilo koje svrhe, kao i pravo i dozvolu da koriste gore navedene sadržaje. Svi zaštitni znakovi (trademarks), logotipi, oznake usluga, firme ili imena proizvoda koji se pominju na ovom web sajtu su vlasništvo kojim raspolažu njihovi vlasnici.