Uma das maneiras de verificar como um site é visto pelo Google é acessando ele como se você fosse o Googlebot. Muitas vezes você não consegue ver o problema simplesmente porque ele não está aparecendo, então é preciso fazer essa mudança para achar o que está errado.

É uma coisa que pode ficar esquecida, mas é uma boa forma de se encontrar cloaking ou algum outro tipo de black hat SEO escondido no site em questão. Em alguns casos a página pode nem estar sendo mostrada para o Googlebot por alguma incompatibilidade, então qualquer SEO será inútil até que ele consiga enxergar.

Essas são boas ferramentas para fazer a verificação:

  1. User-agent switcher: uma extensão do Firefox que também funciona para o Flock e Seamonkey. O que ela faz é trocar a identificação que o seu navegador envia ao acessar uma página para o user-agent que você quiser. Você vai precisar cadastrar os user-agents, ou então fazer o download de um arquivo xml com uma lista neste link.
  2. Header detector: permite que você veja qual o header é recebido por cada user-agent ao acessar uma URL. Pode ser, por exemplo, um 404 ou 301, mas o mais comum deve ser o 200, que é quando o site é encontrado.

Resumindo, utilize essas ferramentas para encontrar problemas em seu site e também para identificar técnicas black hat em outros sites.

Fonte: Search Engine Journal