En del af:
Hvad er crawl budget – og hvornår skal du bekymre dig?
Crawl budget er det, Google kan og vil crawle på dit site. Se hvornår det er relevant, hvad der spilder det, og hvordan du læser rapporten Crawlstatistik i Search Console.
Crawl budget er den mængde URL’er, Google både kan og vil crawle på dit website, og det er kun noget, du behøver at bekymre dig om, hvis du har et meget stort site, eller hvis nye sider er længe om at blive opdaget.
De fleste danske virksomhedssider og webshops har ikke et crawl budget-problem. Men de har ofte spild, som gør det sværere for Google at finde det vigtige. Her er Googles egen definition, hvornår det er relevant, og hvordan du finder og fjerner spildet.
Det korte svar
- Definition: Crawl budget er samspillet mellem crawl capacity limit (hvor meget din server kan klare) og crawl demand (hvor meget Google gerne vil crawle).
- Relevant for: Ifølge Google især sites med 1 million+ sider, der ændres ugentligt, eller 10.000+ sider, der ændres dagligt.
- Advarselstegn: Mange sider med status “Fundet, men ikke indekseret” i Search Console.
- Typisk spild: Filter- og sorterings-URL’er, parametre, dubleret indhold, soft 404 og lange redirect-kæder.
- Mål det: Rapporten Crawlstatistik under Indstillinger i Google Search Console.
Hvad er crawl budget helt præcist?
Google har ikke uendelig tid og serverkraft. For hvert website afgør Google derfor, hvor meget der skal crawles, og hvor tit. Det er ikke en fast mængde data eller et bestemt antal sider om dagen. Google beskriver det som to ting, der spiller sammen.
| Crawl capacity limit | Crawl demand | |
|---|---|---|
| Hvad det er | Hvor meget Googlebot kan crawle uden at overbelaste din server | Hvor meget Google gerne vil crawle |
| Går op, når | Serveren svarer hurtigt og stabilt | Siderne er populære, og indholdet ændres ofte |
| Går ned, når | Serveren bliver langsom eller svarer med 5xx- eller 429-fejl | Siderne er forældede, dublerede eller af lav værdi |
Crawl budget er de URL’er, Google både kan og vil crawle. Har din server masser af kapacitet, men Google ikke synes, dine sider er værd at hente igen, bliver der ikke crawlet mere. Og omvendt: Er serveren langsom, sænker Google tempoet, uanset hvor gode siderne er.
Hvornår skal du bekymre dig om crawl budget?
Google skriver selv, at deres guide til crawl budget er for:
- Store sites med over 1 million unikke sider, hvor indholdet ændres cirka en gang om ugen.
- Mellemstore og store sites med over 10.000 unikke sider, hvor indholdet ændres dagligt.
- Sites, hvor en stor del af URL’erne står som “Fundet, men ikke indekseret” (Discovered – currently not indexed) i Search Console.
Tallene er grove pejlemærker, ikke faste grænser. Bliver dine nye sider crawlet samme dag, som de udgives, har du ikke et crawl budget-problem. De fleste hjemmesider med nogle hundrede sider og de fleste mindre webshops er i den gruppe.
Men pas på med webshops
En webshop med 2.000 produkter kan godt have hundredtusindvis af URL’er. Filtre for farve, størrelse, pris og mærke kan kombineres på utallige måder, og hver kombination kan blive sin egen URL. Det er her, mellemstore sites pludselig får et reelt problem.
Hvad spilder crawl budget?
Spild er URL’er, Google bruger tid på, selvom de ikke skal i søgeresultaterne. De mest almindelige:
- Filtre og sortering:
?farve=roed&str=42&sort=prisgiver nye URL’er med næsten samme indhold. Det er den største synder i webshops. - Parametre: Sporingsparametre, session-ID’er og interne søgeresultater.
- Dubleret indhold: Samme side på flere adresser, fx med og uden skråstreg, www og ikke-www, eller samme produkt i flere kategorier.
- Soft 404: Sider, der siger “Varen findes ikke”, men svarer med status 200. Google bliver ved med at komme tilbage.
- Redirect-kæder: A viderestiller til B, som viderestiller til C. Hvert hop koster.
- Uendelige rum: Kalendere med “næste måned” uden ende og sidenummerering, der aldrig stopper.
- Langsom server: Når serveren er langsom eller giver fejl, sænker Google tempoet for hele sitet.
Sådan forbedrer du dit crawl budget
- Saml dubletter: Brug et canonical tag på varianter, og sørg for at alle interne links går til den rigtige version.
- Blokér unødvendige URL’er i robots.txt: Fx filterkombinationer og interne søgeresultater, som aldrig skal i Google.
- Returnér 404 eller 410 for sider, der er væk for altid, og ret soft 404-fejl.
- Hold dit XML-sitemap opdateret med de sider, der skal indekseres, og en korrekt lastmod-dato.
- Undgå lange redirect-kæder: Peg gamle URL’er direkte på den endelige adresse, og opdatér interne links.
- Gør serveren hurtig: Hurtigere svartider betyder, at Google kan hente flere sider på samme tid.
Typiske fejltagelser
noindex sparer ikke crawl budget. Google skal stadig hente siden for at se noindex-tagget. Det fjerner siden fra søgeresultaterne, men ikke fra crawlingen. robots.txt er ikke en midlertidig hane. Blokerer du sider for at “flytte” budget til andre, får de andre sider ikke automatisk mere, medmindre Google allerede rammer din servers grænse. Og kombinér ikke de to: En side, der er blokeret i robots.txt, kan Google ikke hente, så den ser heller aldrig noindex.
Sådan læser du rapporten Crawlstatistik
Google Search Console viser, hvordan Googlebot faktisk crawler dit site. Rapporten ligger lidt gemt:
- Klik på Indstillinger nederst i venstremenuen.
- Find Crawlstatistik, og klik Åbn rapport.
Her er det, du skal kigge efter:
| Del af rapporten | Hvad du skal kigge efter |
|---|---|
| Crawlanmodninger i alt | Pludselige fald kan betyde serverproblemer. Pludselige stigninger kan betyde, at Google har fundet en masse nye (måske unødvendige) URL’er. |
| Gennemsnitlig svartid | Stiger den, sænker Google typisk tempoet. En stabil, lav svartid er målet. |
| Værtsstatus | Problemer med at hente robots.txt, DNS eller forbindelsen til serveren. Det skal være grønt. |
| Efter svar | Hvor stor en del er 200 OK, 301, 404 og 5xx? Mange redirects eller fejl er spild. |
| Efter formål | Opdagelse (nye URL’er) eller opdatering (kendte URL’er). Vokser opdagelse eksplosivt, så se efter parametre og filtre. |
| Efter Googlebot-type | Hvilke crawlere besøger dig, fx smartphone, desktop og billeder. |
Klik ind på rækkerne for at se eksempler på URL’er. Det er tit her, du opdager, at Google bruger tid på tusindvis af filter-URL’er eller gamle adresser, du troede var væk. Sammenhold det med rapporten Sideindeksering, så du kan se, hvad der faktisk ender i indekset.
Webtos erfaring
Når en kunde spørger til crawl budget, er svaret som regel: Det er ikke dit problem. Men når vi kigger i Crawlstatistik, finder vi ofte noget andet, der er værd at rette. Især i webshops ser vi filtre, der laver tusindvis af URL’er, og gamle redirects, der peger videre til andre redirects. Det er sjældent crawl budget, der holder siden tilbage, men oprydningen giver næsten altid et renere indeks og hurtigere opdagelse af nye sider. Det er en fast del af vores tekniske SEO.
Har du en webshop, så læs også om, hvordan du håndterer filtre og kategorier i WooCommerce.
Bliver dine sider ikke fundet af Google?
Vi gennemgår crawling og indeksering i Search Console og fortæller dig, hvad der skal ryddes op i.
Ofte stillede spørgsmål
Kilder: Google Search Central: Optimize your crawl budget
“Crawl budget er sjældent problemet. Rodet, der spilder det, er næsten altid værd at rydde op i.”










