Hoe zet je Screaming Frog SEO Spider in voor website analyses?

- Axel de Boer - 15 maart 2021
screaming frog gebruiken

In dit artikel

Screaming Frog is misschien wel de ‘meeste-waar-voor-je-geld’ SEO-tool die er is. Ze bieden niet alleen een gratis versie aan, maar de betaalde versie kost slechts €149 per jaar. Voor tools zoals bijvoorbeeld SEMrush of Moz zou je een vergelijkbaar bedrag kunnen verwachten als maandelijkse kosten. Je zal geen geautomatiseerde rapporten of dashboardanalyses van Screaming Frog krijgen, die SEMrush en/of Moz wel bieden. Als je echter weet wat je doet, haal je een aanzienlijke hoeveelheid waarde uit de Screaming Frog-tool.

Hieronder hebben we enkele van onze favoriete beginner tips opgenomen, zodat je het meeste uit Screaming Frog kunt halen. Er is een hele reeks opties beschikbaar die we in dit stuk niet kunnen behandelen, aangezien de mogelijkheden van de tool erg uitgebreid zijn. We raden je aan om actief met de tool aan de gang te gaan nadat je dit artikel hebt gelezen. Je zult merken dat je hier steeds handiger mee wordt.

Wat is Screaming Frog?

Laten we bij het begin beginnen. Screaming Frog is een tool waarmee je een website kunt crawlen. De tool geeft vervolgens de belangrijkste items weer in een spreadsheetindeling die je vervolgens naar keuze kunt exporteren. Met de gratis versie kun je tot 500 URL’s crawlen, terwijl de betaalde versie deze limiet opheft en verdere inzichten mogelijk maakt. Voor de wat grotere websites is het dus wel echt belangrijk om voor de betaalde versie te kiezen, anders zul je maar gedeeltelijk inzicht hebben.

Hoewel ze voortdurend nieuwe functies ontwikkelen, is Screaming Frog vooral een onderzoekstool. Het heeft veel aanpasbare mogelijkheden die de grotere analyseplatforms niet bieden, maar geeft niet hetzelfde adviesniveau als bijvoorbeeld SEMrush of Moz. Je moet zelf conclusies trekken uit de gegevens die je krijgt. Enige basiskennis van de analyses die de tool geeft is dus wel belangrijk.

Verschillende modes

Met de tool kun je de manier waarop je de site crawlt aanpassen. Dit kan met 3 verschillende modes.

1. Spider

Dit is de hoofdmodus voor Screaming Frog. Het werkt net als elke andere spider of bot. Door de site te bezoeken, de informatie te lezen en deze vervolgens weer aan jou te verstrekken. Er zijn verschillende manieren waarop je de spider kunt gebruiken door naar Spider-configuratie te gaan en opties te selecteren / deselecteren (zoals het crawlen van afbeeldingen).

2. List

In deze configuratie crawlt de tool een lijst met URL’s die je handmatig hebt ingevoerd of geüpload via een CSV, of sitemap. Je kunt het ook gebruiken om backlinks uit Search Console te crawlen, wat handig kan zijn om 404’s te identificeren.

3. SERP

Bij de SERP mode wordt de website niet gecrawld.. In plaats daarvan kun je met deze mode titel-tags  + metabeschrijvingen uploaden en wijzigen om te zien hoe ze in de zoekresultaten passen.

Screaming Frog Modes

De drie mogelijkheden om je website te crawlen

Intern & extern crawlen

De interne en externe tabbladen laten zien wat je zou verwachten gezien hun namen. Het interne tabblad toont alle URL’s van het domein dat je hebt ingevoerd, terwijl het externe tabblad de sub-domeinen en domeinen toont waarnaar je website linkt.

Interne en externe tabbladen Screaming Frog

Interne en externe tabbladen Screaming Frog

Spider-configuratie

Het is belangrijk om te weten dat Screaming Frog je computer zal gebruiken om de crawl uit te voeren. Dit betekent dat de uitvoering een aanzienlijk deel van je beschikbare computerkracht in beslag kan nemen. Met 8 GB RAM kunt je bijvoorbeeld tot 5 miljoen URL’s crawlen. Dit RAM-geheugen wordt echter niet opnieuw toegewezen tijdens het crawlen, wat betekent dat het waarschijnlijk van invloed is op de prestaties van jouw computer, tenzij je het crawlen onderbreekt of de tool afsluit.

Als je op een grote site werkt, is het daarom verstandig om te configureren hoe je websites crawlt. Dit verbetert niet alleen de snelheid waarmee je sites kunt crawlen, maar het helpt je ook om de belangrijkste problemen aan te pakken zonder overspoeld te worden met wat op dat moment irrelevante gegevens kunnen zijn.

Weet wel dat de meeste configuraties alleen beschikbaar zijn in de betaalde versie van de tool:

Basic

Met de basisinstellingen kun je aangeven wat de spin moet crawlen en tonen in de tool. Je kunt verschillende opties selecteren en deselecteren, waaronder ‘afbeeldingen controleren’, ‘CSS controleren’, ‘JavaScript controleren’ en ‘alle subdomeinen crawlen’.

Limits

Je kunt ook limieten instellen voor de crawler in termen van het totale aantal gecrawlde URL’s en de  diepte waarnaar de spider zal crawlen.

Rendering

De spider is standaard geconfigureerd om alleen tekst te renderen. Dit betekent dat wanneer je een website probeert te crawlen met een JavaScript-front-end (bijvoorbeeld gebouwd met React.js), de crawl niet zal werken. Bij deze gelegenheden moet je deze instelling wijzigen om JavaScript te crawlen.

* Onthoud dat Googlebot twee crawls van een website uitvoert, één zonder JavaScript en vervolgens één met JavaScript, afhankelijk van de belasting.

Ten slotte: Bij dynamische URL’s kan het langer duren om te crawlen. Het totale aantal URL’s blijft dan tijdens het crawlen toenemen. Pas bij dynamische URL’s dus de instellingen even aan om hier rekening mee te houden.

Spider Configuration Screaming Frog

Spider Configuration Screaming Frog

Belangrijkste kenmerken van een rapport (voor een SEO specialist)

De tool kan op verschillende manieren worden gebruikt. Van een overzicht van SEO-items voor een hele website, tot een rapportage over specifieke URL’s . Als je een standaardrapport bekijkt, bijvoorbeeld om een SEO audit of concurrentenonderzoek te maken, raden we je aan om ten minste de volgende rapporten te bekijken:

Screaming Frog rapporten

Screaming Frog rapporten

Statuscodes, indexeerbaarheid en 301-redirects

Zijn de pagina’s die je wilt laten ranken beschikbaar om te worden geïndexeerd? Staan ze niet bijvoorbeeld op no-index? Zijn deze pagina’s überhaupt wel te bereiken voor een bezoeker en/of crawler of worden ze geredirect naar een andere pagina?

Canonical-tags

Zijn de pagina’s die je eigenlijk niet wilt laten ranken wel voorzien van een canonical-tag die verwijst naar de pagina’s die je wel wilt laten ranken? Het is zeer belangrijk om te checken op welke pagina’s WEL en NIET een canonical-tag staat. Dit kan er namelijk voor zorgen dat je een stuk minder met duplicate-content te maken hebt.

Meta-titels en meta-beschrijvingen

Zijn alle ingestelde meta-titels en/of meta-beschrijvingen wel uniek voor iedere pagina en passen deze wel bij de specifieke pagina? Ook hier wil je duplicate-content voorkomen en het liefst voor iedere pagina uniek ingestelde teksten hebben.

Headers

Nogmaals: zijn alle H1-tags (belangrijke factor voor SEO) wel uniek en zijn deze wel relevant voor de specifieke pagina?

Crawl-diepte

Dit rapport is erg handig om te begrijpen hoe ‘diep’ een website is. Je kunt dit zien via de crawl-diepte of de visualisatietool die een visuele weergave biedt van de sitemap en gebruikersstroom. Zo kun je precies zien hoe diep sommige pagina’s binnen de website te vinden zijn. Je wilt uiteraard dat de belangrijkste pagina’s van jouw website niet te diep in de website liggen en dat deze goed bereikbaar zijn.

Links naar 404-pagina’s

Dit is voor ons bij Maatwerk Online een van de meest gebruikte rapporten die uitgedraaid wordt binnen de tool. Je kunt met Screaming Frog namelijk heel makkelijk alle links vinden die naar een 404-pagina leiden. Je wilt deze links zoveel mogelijk vermijden omdat je niet wilt dat of een bezoeker of een crawler op een pagina uitkomt die niet werkt.

Hreflang

Dit rapport is geweldig voor internationale sites. Je krijgt per pagina te zien of er een hreflang-tag staat ingesteld en of deze correct is of niet.

Exporteren en saven

Als je een gelicentieerde gebruiker bent (d.w.z. een betalende klant), zal Screaming Frog automatisch jouw crawls opslaan waartoe je opnieuw toegang kunt krijgen. We raden je echter ten zeerste aan jouw crawls te exporteren en ze op de computer of in de cloud op te slaan, bijvoorbeeld op Google Drive.

Zoals je zou verwachten gezien de aanpasbare aard van Screaming Frog, kun je ook aanpassen wat je exporteert of opslaat. CSV’s zijn waarschijnlijk de favoriete indeling, maar je kunt de bestanden ook opslaan als een .seospider-bestand.

Dit is in het kort hoe Screaming Frog werkt en hoe je dit als beginner van de tool kunt gebruiken. Voor SEO-specialisten zijn er ontzettend veel rapporten waar je mee kunt werken, maar we raden aan om te beginnen met de basics die in dit artikel vermeld worden. Vanuit hier zul je vanzelf merken dat je steeds meer bekend raakt met de tool en je vanzelf ook meer functies gaat gebruiken.

Aan de slag met Screaming Frog?

Heb je vragen of heb je assistentie nodig met het crawlen van jouw website via Screaming Frog? Neem dan contact met ons op via het contactformulier of bel ons op 010-3030222. We kijken graag met je mee!

Axel de Boer SEO specialist & Google Mijn Bedrijf enthusiast

Gelezen

188 keer

Deel

Hreflang-tag: de basisprincipes en hoe jij het in kan zetten


- 23 juni 2021
Gelezen 16 keer
Willem Nales SEO specialist
Neuromarketing voor online marketing

Neuromarketing: waar marketing, wetenschap en psychologie elkaar kruisen


- 26 mei 2021
Gelezen 43 keer
Elysa van der Graaf SEO Specialist
Thin content

Wat is Thin Content (dunne content) en hoe los je het op?


- 17 mei 2021 - Laatste update op 20 mei 2021
Gelezen 54 keer
Eileen Jaquet Content specialist