Revisão Sistemática da Literatura em Engenharia de Software: Teoria e Prática

Questão 2: Como distribuir os estudos incluídos entre os revisores para realizar a extração de dados?

Questão 2: Como distribuir os estudos incluídos entre os

revisores para realizar a extração de dados?

É recomendável que a extração de dados seja conduzida por mais de um revisor, visando aumentar a confiabilidade nos dados que serão posteriormente utilizados para responder às questões de pesquisa. Dados extraídos de um mesmo estudo por dois ou mais revisores de forma independente podem ser comparados para que divergências possam ser identificadas e resolvidas ao final da atividade de extração. Para minimizar a ocorrência de divergências, bem como problemas durante a extração, é fundamental que sejam realizados um ou mais testes piloto da atividade de extração, ainda durante a elaboração do protocolo. Alguns problemas que podem ser encontrados antecipadamente ao realizar o

teste piloto são (BRERETON et al., 2007):

• Os envolvidos na extração de dados podem não ter o mesmo entendimento do conteúdo a ser extraído

que os responsáveis pela elaboração do formulário de extração.

• Os estudos primários podem reportar seus resultados de diferentes maneiras, o que, por vezes, leva à

necessidade de alteração na atividade de extração.

• Os estudos podem não reportar todos os dados necessários para se preencher o formulário de

extração, o que demanda a definição de uma estratégia para lidar com a ausência de dados.

A escolha da configuração da equipe de revisores para a atividade de extração de dados deve levar em

consideração o conjunto de revisores disponíveis, a quantidade de estudos primários incluídos durante a seleção e o tempo disponível para a conclusão da RS. Algumas das possíveis configurações são

(KITCHENHAM & CHARTERS, 2007):

• Um revisor e um avaliador: Um revisor realiza a extração dos dados de todos os estudos, enquanto

que o avaliador conduz a extração de dados de uma amostra aleatória. Em seguida, os dados

extraídos por ambos são confrontados de forma a identificar divergências. Considerada a

configuração mais simples, envolve geralmente um aluno de pós-graduação no papel de revisor e um

supervisor (orientador ou especialista no tópico da pesquisa da RS) como o avaliador. Um exemplo

de RS que utilizou essa configuração é encontrado em Salleh et al. (2011).

• Dois revisores independentes: A extração de dados de todos os estudos primários é realizada por

dois revisores de forma independente. Em seguida, os dados são comparados e divergências entre os

revisores são resolvidas. Caso os revisores não cheguem a um acordo sobre algum dado extraído, um

avaliador externo pode ser consultado para resolver qualquer divergência. Um exemplo de RS que

utilizou essa configuração é encontrado em Hossain et al. (2009). Nos casos em que a RS envolve a

coleta de dados de muitos estudos primários, a extração por dois revisores independentes pode se

tornar demorada e pouco produtiva.

• Dois ou mais revisores: O conjunto de estudos primários é dividido entre todos os revisores, sendo

que cada estudo terá seus dados extraídos por apenas um deles. Essa configuração é interessante

quando há muitos estudos e há pouco tempo para a conclusão da atividade de extração. Para se ter

ideia da confiabilidade dos dados coletados, pelo menos um subconjunto dos estudos deve ter seus

dados extraídos por todos os revisores, para verificar se apresentam divergências. Caso os dados

extraídos por dois ou mais revisores não apresentarem divergências, pode-se, de alguma forma,

assumir que o restante é confiável. Um exemplo de RS que utilizou essa configuração pode ser visto

em Unterkalmsteiner et al. (2012).