Revisão Sistemática da Literatura em Engenharia de Software: Teoria e Prática
Questão 2: Como distribuir os estudos incluídos entre os revisores para realizar a extração de dados?
Questão 2: Como distribuir os estudos incluídos entre os
revisores para realizar a extração de dados?
É recomendável que a extração de dados seja conduzida por mais de um revisor, visando aumentar a confiabilidade nos dados que serão posteriormente utilizados para responder às questões de pesquisa. Dados extraídos de um mesmo estudo por dois ou mais revisores de forma independente podem ser comparados para que divergências possam ser identificadas e resolvidas ao final da atividade de extração. Para minimizar a ocorrência de divergências, bem como problemas durante a extração, é fundamental que sejam realizados um ou mais testes piloto da atividade de extração, ainda durante a elaboração do protocolo. Alguns problemas que podem ser encontrados antecipadamente ao realizar o
teste piloto são (BRERETON et al., 2007):
• Os envolvidos na extração de dados podem não ter o mesmo entendimento do conteúdo a ser extraído
que os responsáveis pela elaboração do formulário de extração.
• Os estudos primários podem reportar seus resultados de diferentes maneiras, o que, por vezes, leva à
necessidade de alteração na atividade de extração.
• Os estudos podem não reportar todos os dados necessários para se preencher o formulário de
extração, o que demanda a definição de uma estratégia para lidar com a ausência de dados.
A escolha da configuração da equipe de revisores para a atividade de extração de dados deve levar em
consideração o conjunto de revisores disponíveis, a quantidade de estudos primários incluídos durante a seleção e o tempo disponível para a conclusão da RS. Algumas das possíveis configurações são
(KITCHENHAM & CHARTERS, 2007):
• Um revisor e um avaliador: Um revisor realiza a extração dos dados de todos os estudos, enquanto
que o avaliador conduz a extração de dados de uma amostra aleatória. Em seguida, os dados
extraídos por ambos são confrontados de forma a identificar divergências. Considerada a
configuração mais simples, envolve geralmente um aluno de pós-graduação no papel de revisor e um
supervisor (orientador ou especialista no tópico da pesquisa da RS) como o avaliador. Um exemplo
de RS que utilizou essa configuração é encontrado em Salleh et al. (2011).
• Dois revisores independentes: A extração de dados de todos os estudos primários é realizada por
dois revisores de forma independente. Em seguida, os dados são comparados e divergências entre os
revisores são resolvidas. Caso os revisores não cheguem a um acordo sobre algum dado extraído, um
avaliador externo pode ser consultado para resolver qualquer divergência. Um exemplo de RS que
utilizou essa configuração é encontrado em Hossain et al. (2009). Nos casos em que a RS envolve a
coleta de dados de muitos estudos primários, a extração por dois revisores independentes pode se
tornar demorada e pouco produtiva.
• Dois ou mais revisores: O conjunto de estudos primários é dividido entre todos os revisores, sendo
que cada estudo terá seus dados extraídos por apenas um deles. Essa configuração é interessante
quando há muitos estudos e há pouco tempo para a conclusão da atividade de extração. Para se ter
ideia da confiabilidade dos dados coletados, pelo menos um subconjunto dos estudos deve ter seus
dados extraídos por todos os revisores, para verificar se apresentam divergências. Caso os dados
extraídos por dois ou mais revisores não apresentarem divergências, pode-se, de alguma forma,
assumir que o restante é confiável. Um exemplo de RS que utilizou essa configuração pode ser visto
em Unterkalmsteiner et al. (2012).