Arquivo encontrado
Identificamos se o robots.txt está disponível na raiz do domínio.
VERIFICADOR DE ROBOTS.TXT
Analise o site e veja se o robots.txt foi encontrado e respeitado durante o rastreamento.
Digite o domínio. A auditoria respeita o robots.txt e mostra páginas que não puderam ser rastreadas.
ENTENDA O RESULTADO
O arquivo robots.txt orienta crawlers sobre caminhos que podem ou não ser acessados. Bloquear uma URL ali não é o mesmo que aplicar noindex e pode esconder informações necessárias para avaliar a página.
Identificamos se o robots.txt está disponível na raiz do domínio.
O crawler não força acesso a áreas bloqueadas pelo site.
Você consegue diferenciar páginas não rastreadas por regra de outros erros técnicos.
COMO USAR
Use o campo acima para inserir o site ou as informações que deseja revisar.
A ferramenta mostra a prévia ou inicia a auditoria necessária para esta verificação.
Ajuste o site e repita a verificação para confirmar se o problema foi resolvido.
DÚVIDAS FREQUENTES
Não necessariamente. Ele controla o rastreamento. Para evitar indexação, normalmente é usado noindex em uma página acessível ao crawler.
O endereço padrão é /robots.txt na raiz do domínio.
Em geral não é recomendado bloquear recursos necessários para o Google renderizar e entender a página.
Se a auditoria apontou lentidão, erro 5xx, SSL, DNS, servidor, Docker ou infraestrutura, a Jupiter TI pode analisar o ambiente e orientar o próximo passo.
Jupiter TI
Linux • Cloud • Automação