Revisão Sistemática da Literatura em Engenharia de Software: Teoria e Prática
Questão 7: Como estruturar a documentação dos resultados de uma RS?
Questão 7: Como estruturar a documentação dos resultados
de uma RS?
Organizar adequadamente os resultados de uma RS é fundamental para o seu sucesso. A documentação deverá apresentar de forma clara, objetiva e ao mesmo tempo detalhada o estado da arte sobre o tópico de pesquisa para uso dos possíveis interessados e, com isso, contribuir também para estabelecer um agenda de trabalho, identificando quais linhas de pesquisa ainda estão em aberto. Uma boa estruturação facilita o entendimento de como a revisão foi de fato conduzida, o que promove a confiabilidade nos resultados encontrados e, consequentemente, a disseminação da revisão, trazendo impactos para a área de pesquisa a qual faz parte essa revisão.
Diferentes formatos dessa documentação podem ser encontrados. Observa-se que cada autor tem adotado o que parece ser mais adequado para a sua revisão. Contudo, a grande maioria das revisões reportadas na literatura estrutura a documentação de acordo com as questões de pesquisa estabelecidas no protocolo. Quando observadas as diversas RSs publicadas na área de ES, as discussões sobre os resultados têm abordado os seguintes itens:
• Achados: Apontar os mais evidentes, por exemplo, aqueles presentes em diversos estudos primários
incluídos ou provenientes de poucos ou mesmo de um estudo primário considerado de alta qualidade (ou seja, que apresentem, por exemplo, resultados com validade estatística). Desse modo, recomenda-se que a qualidade dos estudos primários também seja considerada para diferenciar as contribuições de cada estudo e direcionar a discussão dos resultados da RS. Deve-se também discutir sobre as variações, a magnitude e a aplicabilidade dos achados observados nos estudos primários incluídos.
• Generalizações: Quando permitido pelo método de síntese empregado, é possível generalizar as
conclusões sobre um dado achado com base nas evidências encontradas nos estudos primários incluídos.
• Inferências: As discussões podem apresentar inferências baseadas nos achados/dados encontrados nos
estudos primários, juntamente com as justificativas de como foram estabelecidas.
• Pontos fracos e fortes: Deve-se abordar os pontos fortes e fracos das evidências originadas nos
estudos primários, o que incluem os benefícios, os efeitos adversos e os riscos, e relacioná-los com resultados encontrados em outras revisões em tópicos vizinhos.
• Aplicabilidade: Quando permitido pelo método de síntese empregado, é interessante discutir para
quem, quando e porque um determinado achado será relevante. Essa informação será especialmente importante para profissionais que irão utilizar os resultados da RS para adotar ou não um novo paradigma, técnica, processo, entre outros.
Tabelas, gráficos e figuras têm sido largamente utilizados para dar suporte às discussões desenvolvidas nas RSs. Além das discussões minuciosas buscando responder cada questão de pesquisa, vale a pena incluir informações de cunho mais geral que, muitas vezes, têm sido também reportadas em MSs. Esse tipo de informação, que pode ser apresentada inclusive antes das discussões sobre cada questão de pesquisa, pode contribuir para um melhor entendimento do contexto das respostas às questões. Como exemplo, pode-se incluir: (i) distribuição dos estudos primários incluídos ao longo dos anos, o que mostra a tendência do interesse pelo tópico de pesquisa em questão; (ii) distribuição dos estudos incluídos nos diferentes subtópicos abordados; (iii) identificação da origem dos estudos primários, considerando, por exemplo, instituição dos autores (e também se são da academia ou da indústria), grupos de pesquisa ou países de origem; (iv) word cloud construído a partir, por exemplo, dos títulos e/ou resumos dos estudos incluídos; e (v) veículos de publicação e qualidade destes segundo o
Qualis19 20 e/ou CORE (Computing Research and Education Association of Australasia), que também pode indicar sua relevância para o tópico de pesquisa sendo investigado.
Finalizadas as discussões sobre os resultados, deve-se apresentar as limitações e as ameaças à
validade da RS como um todo. Baseado nas diversas RSs que temos executado, as principais que temos nos deparado são: (i) possíveis tendências durante a busca dos estudos primários; (ii) possíveis tendências durante a exclusão de trabalhos primários; (iii) subjetividade durante a extração dos dados a partir dos trabalhos incluídos; e (iv) limitações nas bases bibliográficas que podem não ter retornado todos os trabalhos diretamente relacionados com o tópico de pesquisa da RS. Além dessas, diversas outras ameaças e limitações existem e podem estar presentes em praticamente todas as fases da RS. Para cada ameaça identificada, deve-se apresentar as medidas que foram tomadas para minimizar seu impacto na revisão. Portanto, explicitar claramente as limitações e ameaças é fundamental, uma vez que permite aos interessados compreender melhor como a revisão foi conduzida, facilitando, assim, uma futura atualização desta.