Revisão Sistemática da Literatura em Engenharia de Software: Teoria e Prática
Questão 5: Quais são as melhores fontes de estudos primários?
Questão 5: Quais são as melhores fontes de estudos
primários?
Durante a busca por estudos primários relevantes, deve-se adotar uma estratégia criteriosa, transparente e imparcial para a seleção das fontes de informação. Para isso, é necessário considerar fontes complementares, visando mitigar possíveis limitações que induzam vieses ou limitem a identificação de
estudos primários (KITCHENHAM & CHARTERS, 2007). Um exemplo conhecido de viés na seleção de estudos é o fato de que resultados positivos tendem a ser mais facilmente publicados do que os negativos, o que pode vir a interferir na elaboração das respostas para as questões de pesquisa. Dessa forma, durante a definição do conjunto de estudos primários que será utilizado para a identificação de evidências, deve-se considerar tanto estudos primários indexados quanto os que contenham resultados
não publicados (BRERETON et al., 2007).
Estudos primários indexados podem ser obtidos por meio da busca utilizando- se a string de busca nas diferentes bases bibliográficas. Essa atividade pode ser complementada por uma busca manual em outras fontes, tais como revistas e anais de eventos da área de pesquisa abordada pela RS. Além disso, é importante considerar como fonte adicional de evidência a lista de referências presente nos estudos
primários incluídos (KITCHENHAM & CHARTERS, 2007). Estudos primários não indexados podem, por outro lado, serem identificados em uma busca por relatórios técnicos, dissertações, teses, normas técnicas, registros de pesquisa ou revistas publicadas por empresas, tais como as organizadas pela
International Business Machines 1 (IBM). Nessa perspectiva, o contato com especialistas e pesquisadores do domínio pode facilitar a identificação de estudos primários que não foram publicados ou não estão indexados em bases bibliográficas. Uma discussão mais detalhada sobre busca manual e busca por estudos não indexados pode ser encontrada nas Questões 7 e 8 deste capítulo.
A escolha das bases bibliográficas a serem utilizadas na obtenção de estudos primários indexados deve considerar os conceitos de precisão e sensibilidade mencionados na Questão 4. Nenhuma base
bibliográfica é capaz de retornar sozinha todos os estudos primários pertinentes a uma RS (BRERETON
et al., 2007; DIESTE et al., 2009). Escolher um conjunto pouco abrangente de bases bibliográficas pode resultar na perda de estudos primários relevantes para responder às questões de pesquisa. Por outro lado, considerar todas as bases bibliográficas disponíveis para Ciência da Computação pode resultar em um conjunto muito grande de estudos fora do escopo da RS, o que leva a uma baixa precisão. Nesse contexto,
os trabalhos de Brereton et al. (2007), Kitchenham e Charters (2007) e Dybå et al. (2007) identificaram um conjunto de bases bibliográficas que podem ser úteis para a obtenção de estudos no domínio de ES.
Esse conjunto de bases é listado na Tabela 3.1.
Tabela 3.1
Principais bases bibliográficas em Ciência da Computação
Fonte de informação Endereço online Tipo
IEEE Xplore ieeexplore.ieee.orgm Base bibliográfica
ACM Digital library dl.acm.org Híbrida
Citeseer library citeseerx.ist.psu.edu Motor de busca
Google scholar scholar.google.com Motor de busca
Inspec www.theiet.org/resources/inspec Motor de busca
Engineering Village www.engineeringvillage.com Motor de busca
SpringerLink link .springer.com Base bibliográfica
Scopus www.scopus.com Motor de busca
ScienceDirect www.sciencedirect.com Base bibliográfica
Wiley online library onlinelibrary.wiley.com Híbrida
ISI Web of Science www.webofk nowledge.com Motor de busca
Bases bibliográficas, como a SpringerLink, retornam apenas estudos publicados pela própria editora.
Por outro lado, motores de busca são capazes de retornar estudos indexados por diversas bases bibliográficas. Motores de busca como a Scopus e o Google Scholar, por exemplo, indexam estudos publicados em algumas revistas e congressos da ACM Digital library e IEEE Xplore. Além disso, existem fontes de informação que indexam estudos primários publicados pela própria editora, mas
também retornam estudos presentes em outras bases bibliográficas (CHEN et al., 2010). Esse tipo de fonte de informação pode ser denominada como híbrida, que é o caso da ACM Digital library.
É importante notar que, diferentemente de áreas como a Medicina, as bases bibliográficas disponíveis
para a Ciência da Computação não são projetadas para apoiar a condução de RSs (BRERETON et al.,
2007). Estudos como os de Brereton et al. (2007), Dybå et al. (2007) e Dieste et al. (2009) destacaram
diversas limitações acerca das bases bibliográficas apresentadas na Tabela 3.1. Entre essas limitações, encontram-se:
• Recursos bibliográficos limitados: Algumas bases bibliográficas, tais como a IEEE Xplore,
SpringerLink e ScienceDirect, não cobrem publicações de forma abrangente, limitando-se apenas a
estudos publicados pela própria editora.
• Problemas com o algoritmo de busca: Parte das bases bibliográficas, como a SpringerLink, não
permite limitar a busca considerando somente, por exemplo, título, resumo e palavras-chave
(BRERETON et al., 2007; DYBÅ et al., 2007; DIESTE et al., 2009). Essa limitação reduz a precisão
da busca e faz com que uma grande quantidade de estudos irrelevantes seja retornada, dificultando a
realização da RS.
• Falha no reconhecimento de plurais: Em alguns casos, como no da IEEE Xplore, o plural de cada
termo deve ser informado (DIESTE et al., 2009). Por isso, antes da utilização de uma base
bibliográfica, deve-se verificar a necessidade de especificar ou não termos no plural.
• Resumos ou textos de estudos primários incompletos: Algumas das bases bibliográficas, como a IEEE
Xplore, ACM Digital library e Scopus, indexam estudos nos quais apenas o resumo está disponível.
Essa limitação dificulta a avaliação e a utilização dos estudos durante a condução da RS (DIESTE
et al., 2009).
• Uso de strings muito grandes: Em alguns casos, como na IEEE Xplore, bases bibliográficas impõem
limitações quanto ao número de caracteres ou de termos. Essa limitação faz com que a string de
busca precise ser dividida em partes menores, demandando múltiplas consultas e a retirada dos
estudos repetidos obtidos por cada consulta.
Vale a pena destacar que essas limitações foram observadas no momento da escrita deste livro,
podendo ser minimizadas futuramente. É importante considerar os pontos fortes e fracos de cada uma das bases bibliográficas sempre que se deseja estabelecer uma estratégia de busca abrangente, bem como ser capaz de identificar e mitigar possíveis limitações das bases consideradas na RS. Outra questão relevante é a sobreposição de conteúdo entre as bases bibliográficas, o que leva à obtenção de estudos
primários repetidos, conforme destacado por Oliveira et al. (2012) e Dybå et al. (2007). Na RS de
Oliveira et al. (2012), por exemplo, foi identificado que a base bibliográfica Scopus já indexava todos os estudos retornados pela base bibliográfica Engineering Village (IE Compendex), sendo a segunda pouco
útil na obtenção de novos estudos. Para auxiliar na seleção das bases bibliográficas, Dieste et al. (2009) propõem um conjunto de critérios:
• Abrangência: O conteúdo indexado pela base bibliográfica deve englobar um bom número de estudos
relacionados com a área de pesquisa.
• Atualização de conteúdo: A base bibliográfica deve indexar novos estudos regularmente.
• Disponibilidade de textos completos: Os textos completos dos estudos devem estar disponíveis na
íntegra.
• Qualidade da busca: O mecanismo de busca da base deve permitir uma fácil adaptação da string de
busca para os campos e comandos disponíveis para realizar a consulta na base bibliográfica.
• Qualidade dos resultados: As consultas na base bibliográfica devem retornar estudos de qualidade,
que podem possuir evidências confiáveis.
• Versatilidade na exportação de resultados: A base bibliográfica deve possibilitar a exportação dos
resultados obtidos na consulta, facilitando a execução de RSs, uma vez que estas tendem a ter um grande número de estudos primários durante a atividade de seleção.
• Usabilidade: A interface gráfica de acesso à base deve ser fácil de entender e operar, além de permitir
a integração com aplicativos que facilitem o gerenciamento da bibliografia, tais como o 2 EndNote,
Mendeley3 4 e StArt. Outras ferramentas são citadas na Questão 4 do Capítulo 1.
Considerando os critérios apresentados, é possível obter um bom conjunto de estudos primários indexados e, ao mesmo tempo, realizar uma busca eficiente. Uma boa estratégia é combinar motores de busca abrangentes, como a Scopus, com outras bases mais específicas, como a IEEE Xplore e a ACM Digital library. A escolha das bases bibliográficas mais específicas deve levar em consideração eventos científicos e periódicos da área investigada que não são indexados pelos motores de busca. RSs
conduzidas por Oliveira et al. (2012) e Dieste et al. (2009) reportam que a Scopus foi responsável pela indexação de aproximadamente 90% dos estudos. A utilização da Scopus também é indicada pelas
diretrizes propostas por Kitchenham e Charters (2007) para a condução de RSs. Contudo, vale lembrar que o impacto de cada base bibliográfica na obtenção de estudos primários pode variar de uma RS para
outra. Por exemplo, a RS conduzida por Santos et al. (2015) relata um menor impacto da Scopus, se comparado aos estudos supracitados.
Independentemente das bases bibliográficas utilizadas, vale lembrar que a escolha das fontes de informação deve ser definida de acordo com critérios imparciais documentados no protocolo, de forma a permitir a auditoria e reprodutibilidade da RS.