Como hacer un crwaleo web
Hoy a vamos aprender cómo hacer un crawleo de nuestra página web de manera rápida y sencilla.
¿Para qué sirve un crawleo?

crawl-seo-sitio
Pues empezando sirve para purificar nuestro sitio web, reparando las url rotas o sin imágenes dentro de nuestro http, estructura del sitio web, tiempos de respuesta, protocolos internos y externos, directivas, imágenes, SERP Snippet.
¿Qué vamos a usar?
Vamos a utilizar un programa sencillo y versátil Windows, Mac, Linux llamada Screaming Frog SEO Spider, después de instalarlo simplemente hay que colocar la url de nuestro sitio web a auditar y presto.
¿Qué vamos a resolver?
Básicamente:
Links rotos 404 externos e internos
Títulos de página, cabeceras h1, h2.
Metas Descripción.
Crawleo de páginas web en linea:
Realizar un crawl de en línea es muy sencillo puedes utilizar las siguientes herramientas en línea:
sitechecker
internetmarketingninjas
Deseas generar generar y personalizar el código para realizar un crawleo automático de tu pagina o grandes proyectos, donde es necesario tener customizado nuestras preferencias de crawleo.
scrapy