Ivo Nascimento

Análise de palavras em landing pages

Que tipo de informação a página inicial de um portal pode conter, por si só, independente de como ela apresenta a história em seus links?

Ainda penso em que perguntas fazer mas,  para poder faze-las, comecei a armazenar a página inicial de 4 grandes hubs de notícia, inicialmente: Portal Terra, UOL, Folha de São Paulo e Estado de São Paulo.

A cada 4 horas executo na minha máquina um script simples em python.

O que eu estou guardando são os textos sem as tags html, e depois conjuntos de uma, 2 e tres palavras do mesmo texto(palavra, bigrama e trigrama).

O próximo passo é começar a brincar com os dados e no momento tenho olhado somente frequencia, mas quero pesquisar mais esses dados e ver se consigo desenhar um perfil desses portais e também se consigo perceber através deles o surgimento de alguma tendência.

será que rola extrair isso somente olhando a landing page?