Mudanças entre as edições de "Métricas de teste e qualidade"

De MSTECH wiki
Ir para: navegação, pesquisa
(→‎Métricas definidas)
(→‎Métricas de produto)
 
(36 revisões intermediárias pelo mesmo usuário não estão sendo mostradas)
Linha 1: Linha 1:
 +
Atualizado em 17/03/2017
 +
 
==Sobre as métricas de teste de software==
 
==Sobre as métricas de teste de software==
  
Linha 24: Linha 26:
  
 
==Métricas definidas==
 
==Métricas definidas==
 +
 +
===Métricas de produto===
 +
 +
As métricas de produto servem para auxiliar no controle da qualidade do produto que está sendo testado.
  
 
{| {{table}} class="wikitable"
 
{| {{table}} class="wikitable"
Linha 29: Linha 35:
 
| align="center" style="background:#f0f0f0;"|'''Questão'''
 
| align="center" style="background:#f0f0f0;"|'''Questão'''
 
| align="center" style="background:#f0f0f0;"|'''Métrica'''
 
| align="center" style="background:#f0f0f0;"|'''Métrica'''
 +
| align="center" style="background:#f0f0f0;"|'''Como determinar'''
 
| align="center" style="background:#f0f0f0;"|'''Situação'''
 
| align="center" style="background:#f0f0f0;"|'''Situação'''
−
 
 
|-
 
|-
−
|Certificar-se que o critério de pronto está sendo seguido pelas células
+
|Analisar a qualidade do produto
−
|100% dos bugs críticos e graves abertos na versão estão com o status fechado?
+
|Quantos bugs foram abertos na sprint?
−
|Bugs por status e severidade
+
|Total de bugs
−
|Aguardando
+
|Relatório do Youtrack
−
|-
+
|Implementado
−
|Padronizar a rotina de testes nos projetos
+
−
|Todos os bugs estão sendo classificados?
+
−
|Bugs sem classificação de tipo
+
−
 
+
−
Bugs sem classificação de severidade
+
−
|Aguardando
+
 
|-
 
|-
−
|Aumentar a qualidade do desenvolvimento dos projetos
+
|Analisar a qualidade do produto
 
|Qual a porcentagem de bugs com severidade superior a Moderado foram abertos durante o desenvolvimento?
 
|Qual a porcentagem de bugs com severidade superior a Moderado foram abertos durante o desenvolvimento?
 
|Bugs por severidade
 
|Bugs por severidade
−
|Aguardando
+
|
 +
|Implementado
 
|-
 
|-
−
|Aumentar a qualidade do desenvolvimento dos projetos
+
|Analisar a qualidade do produto
 
|Qual o nível de qualidade do produto na entrega atual?
 
|Qual o nível de qualidade do produto na entrega atual?
 
|Índice de severidade de defeitos
 
|Índice de severidade de defeitos
−
|Aguardando
+
|Atribuir um número a cada nível de severidade. Multiplicar cada bug por sua severidade, somando todos os resultados. Dividir o total pelo número de defeitos.
 +
|Implementado
 +
|-
 +
|Analisar a qualidade do produto
 +
|Qual a evolução da qualidade em relação às sprints anteriores?
 +
|Bugs por categoria
 +
 
 +
Bugs por severidade
 +
|Relatório do Youtrack. Dados tabulados em planilha.
 +
|Implementado
 +
|-
 +
|Analisar a qualidade do produto
 +
|Qual a quantidade de bugs vindos do cliente foram corrigidos na sprint atual?
 +
|Bugs por origem
 +
|Relatório do Youtrack
 +
|Indeferido (Não há como coletar no momento)
 
|-
 
|-
 
|Verificar se as definições dos requisitos estão satisfatórias ao desenvolvimento
 
|Verificar se as definições dos requisitos estão satisfatórias ao desenvolvimento
 
|Qual a porcentagem de bugs da subcategoria Definição foram abertos durante o desenvolvimento?
 
|Qual a porcentagem de bugs da subcategoria Definição foram abertos durante o desenvolvimento?
 
|Bugs de definição por sprint
 
|Bugs de definição por sprint
−
|Aguardando
+
|Relatório do Youtrack
 +
|Implementado
 +
|-
 +
|Fornecer uma indicação de mantenabilidade do produto ou custo de manutenção
 +
|As equipes estão gastando muito tempo na correção de defeitos?
 +
Qual o  tempo médio de correção dos bugs?
 +
|Índice de correção dos defeitos
 +
|Dividir o número de horas gastas na correção pelo total de defeitos corrigidos no período
 +
|Implementado
 +
|-
 +
|Verificar quais as providências adotadas para os bugs
 +
|Quantos bugs foram corrigidos, ignorados, correção adiada ou não eram bugs?
 +
Quantos bugs foram passados para sprints posteriores ou backlog?
 +
 
 +
Quantos bugs de sprints passadas foram corrigidos na versão atual?
 +
|Quantidade de bugs com a Reason "Adiado"
 +
 
 +
Quantidade de bugs com a flaf "Já foi adiado"
 +
|Relatório do Youtrack
 +
|Implementado
 +
|-
 +
|Certificar-se que o critério de pronto está sendo seguido pelas células
 +
|100% dos bugs críticos e graves abertos na versão estão com o status fechado?
 +
|Bugs por status e severidade
 +
|Relatório do Youtrack
 +
|Implementado
 +
|-
 +
|Verificar a confiabilidade do produto
 +
|Quantas falhas são encontradas por tempo de execução?
 +
|Índice de confiabilidade - A confiabilidade de software é geralmente definida como a probabilidade do software operar sem ocorrência de falhas durante um período especificado de tempo em um determinado ambiente.
 +
|Quantidade de bugs / Tempo de teste
 +
|Implementado
 +
|}
 +
 
 +
===Métricas de projeto===
 +
 
 +
{| {{table}} class="wikitable"
 +
| align="center" style="background:#f0f0f0;"|'''Objetivos da medição'''
 +
| align="center" style="background:#f0f0f0;"|'''Questão'''
 +
| align="center" style="background:#f0f0f0;"|'''Métrica'''
 +
| align="center" style="background:#f0f0f0;"|'''Como determinar'''
 +
| align="center" style="background:#f0f0f0;"|'''Situação'''
 
|-
 
|-
 
|Verificar se as estimativas de tempo de teste estão corretas
 
|Verificar se as estimativas de tempo de teste estão corretas
 
|Estamos subestimando ou superestimando o tempo de teste?
 
|Estamos subestimando ou superestimando o tempo de teste?
 +
|Tempo estimado e tempo gasto
 +
|Relatório do Youtrack
 +
|Em definição
 +
|-
 +
|Fornecer uma estimativa de tempo para conclusão dos testes
 +
|Os testes serão concluídos dentro do prazo previsto?
 
|
 
|
−
|Aguardando
+
|
 +
|Em definição
 
|-
 
|-
−
|Avaliar a produtividade do processo
+
|Identificar quando os esforços de teste devem terminar para um produto ou requisito
 +
|Quando parar de testar?
 
|
 
|
 +
|
 +
|Em definição
 +
|-
 +
|}
 +
 +
===Métricas do processo de teste===
 +
 +
As métricas de processo servem para auxiliar no controle da qualidade do processo de testes.
 +
 +
{| {{table}} class="wikitable"
 +
| align="center" style="background:#f0f0f0;"|'''Objetivos da medição'''
 +
| align="center" style="background:#f0f0f0;"|'''Questão'''
 +
| align="center" style="background:#f0f0f0;"|'''Métrica'''
 +
| align="center" style="background:#f0f0f0;"|'''Como determinar'''
 +
| align="center" style="background:#f0f0f0;"|'''Situação'''
 +
|-
 +
|Padronizar a rotina de testes nos projetos
 +
|Todos os bugs estão sendo classificados?
 +
|Bugs sem classificação de tipo
 +
 +
Bugs sem classificação de severidade
 +
|Relatório do Youtrack
 +
|Em definição
 +
|-
 +
|Avaliar a produtividade do processo de testes
 +
|Quantos bugs são encontrados por um tempo específico de teste?
 
|Bugs por tempo de teste
 
|Bugs por tempo de teste
−
|Aguardando
+
|Dividir a quantidade de bugs encontrados pelo tempo de teste.
 +
|Em definição
 
|-
 
|-
−
|Calcular o tempo e os recursos gastos com os testes
+
|Avaliar a produtividade do processo de testes
−
|Qual a o tempo total de testes na sprint?
+
|Qual o tempo médio para encontrar um defeito?
−
Quanto o tempo de testes por testador na sprint?
+
|Tempo de teste por bug encontrado
−
|Tempo de testes por sprint
+
|
−
Tempo de testes por testador por sprint
+
|Em definição
−
|Aguardando
+
 
|-
 
|-
 +
|Avaliar o custo do teste
 +
|Qual o custo de não testar?
 
|
 
|
−
|Os testes serão concluídos dentro do prazo previsto?
 
 
|
 
|
−
|Aguardando
+
|Em definição
 
|-
 
|-
 +
|Verificar a efetividade dos testes
 +
|Quantos bugs de funcionalidades que passaram por teste foram encontrados em produção?
 
|
 
|
−
|Quando parar de testar?
 
 
|
 
|
−
|Aguardando
+
|Em definição
 
|-
 
|-
 
|}
 
|}
 +
 +
==Outras métricas==
 +
 +
Abaixo, listamos algumas métricas de teste de software encontradas na literatura. Essas métricas podem ser analisadas e implementadas quando for conveniente.
 +
 +
====Métricas de produto====
 +
 +
Número de ocorrências
 +
Status das ocorrências
 +
Índice de densidade de defeitos
 +
Índice de severidade de defeitos
 +
Tempo para arrumar um defeito
 +
Tempo médio para encontrar um defeito
 +
Quantidades e falhas encontradas no produto
 +
Tipos de defeitos encontrados
 +
Cobertura dos testes
 +
Cobertura dos testes baseada em requisitos
 +
Cobertura dos testes baseada em códigos
 +
Medida e Uso da cobertura de teste
 +
Efetividade de caso de teste
 +
Efetividade e eficiência dos testes
 +
Defeitos por quantidade de linhas de código
 +
Situação ou tendência dos defeitos em função do tempo
 +
Providências adotadas em relação aos defeitos
 +
Defeitos por módulo
 +
Defeitos por tecnologia utilizada
 +
Defeitos por unidade organizacional
 +
Defeitos por funcionário
 +
Defeitos por hora de introdução
 +
 +
====Métricas de processo====
 +
 +
Numero de casos de teste
 +
Taxa de falhas na primeira execução dos casos de teste
 +
Custo dos testes
 +
Custo de testar/não testar
 +
Custo/Esforço total de testes X Custo/Esforço total de desenvolvimento
 +
Outras análises de custo: Curva S e Curva Zero Bug Bounce
 +
Densidade dos defeitos residuais
 +
Relação entre defeitos e ocorrências
 +
Taxa de ocorrências válidas
 +
Taxa de problemas encontrados na correção dos defeitos
 +
Defeitos encontrados X Defeitos corrigidos
 +
Ocorrências pendentes de correção
 +
Defeitos encontrados X Defeitos estimados
 +
Probabilidade de defeitos
 +
Ocorrências resolvidas que ainda não foram retestadas
 +
Mudanças no escopo
 +
Fase em que o defeito foi encontrado
 +
Densidade de defeitos por unidade
 +
Defeitos por fase em que foram injetados
 +
 +
====Métricas de projeto====
 +
 +
Fator de segurança
 +
Tempo necessário para executar um teste
 +
Tempo disponível para o esforço de teste
 +
Taxa de esforço de teste
 +
Categoria dos defeitos
 +
 +
==Referências==
 +
 +
http://www.lume.ufrgs.br/bitstream/handle/10183/18574/000730980.pdf?...1

Edição atual tal como às 14h04min de 30 de março de 2017

Atualizado em 17/03/2017

Sobre as métricas de teste de software

O processo de testes pode gerar muitas métricas, as quais podem ser analisadas e utilizadas como indicadores para melhorar o processo de desenvolvimento.

Métrica pode ser definida como: 

"Escala de medição e o método utilizado para a medição." [ISO 14598].

Indicador pode ser definido como: 

"Indicador é uma representação de forma simples ou intuitiva de uma métrica ou medida para facilitar sua interpretação quando comparada a uma referência ou alvo." [BPM CBOK]

Definindo métricas

Elaborando um plano de métricas

  • Por que as métricas satisfazem meu objetivo?
  • Que métricas serão coletadas? Como serão definidas? Como serão analisadas?
  • Quem fará a coleta? Quem fará a análise? Quem verá os resultados?
  • Como será feito? Quais ferramentas, técnicas e práticas que serão usadas para apoiar a coleta e a análise das métricas?
  • Quando e com que frequência as métricas serão coletadas e analisadas?
  • Onde os dados serão armazenados?

Métricas definidas

Métricas de produto

As métricas de produto servem para auxiliar no controle da qualidade do produto que está sendo testado.

Objetivos da medição Questão Métrica Como determinar Situação
Analisar a qualidade do produto Quantos bugs foram abertos na sprint? Total de bugs Relatório do Youtrack Implementado
Analisar a qualidade do produto Qual a porcentagem de bugs com severidade superior a Moderado foram abertos durante o desenvolvimento? Bugs por severidade Implementado
Analisar a qualidade do produto Qual o nível de qualidade do produto na entrega atual? Índice de severidade de defeitos Atribuir um número a cada nível de severidade. Multiplicar cada bug por sua severidade, somando todos os resultados. Dividir o total pelo número de defeitos. Implementado
Analisar a qualidade do produto Qual a evolução da qualidade em relação às sprints anteriores? Bugs por categoria

Bugs por severidade

Relatório do Youtrack. Dados tabulados em planilha. Implementado
Analisar a qualidade do produto Qual a quantidade de bugs vindos do cliente foram corrigidos na sprint atual? Bugs por origem Relatório do Youtrack Indeferido (Não há como coletar no momento)
Verificar se as definições dos requisitos estão satisfatórias ao desenvolvimento Qual a porcentagem de bugs da subcategoria Definição foram abertos durante o desenvolvimento? Bugs de definição por sprint Relatório do Youtrack Implementado
Fornecer uma indicação de mantenabilidade do produto ou custo de manutenção As equipes estão gastando muito tempo na correção de defeitos?

Qual o tempo médio de correção dos bugs?

Índice de correção dos defeitos Dividir o número de horas gastas na correção pelo total de defeitos corrigidos no período Implementado
Verificar quais as providências adotadas para os bugs Quantos bugs foram corrigidos, ignorados, correção adiada ou não eram bugs?

Quantos bugs foram passados para sprints posteriores ou backlog?

Quantos bugs de sprints passadas foram corrigidos na versão atual?

Quantidade de bugs com a Reason "Adiado"

Quantidade de bugs com a flaf "Já foi adiado"

Relatório do Youtrack Implementado
Certificar-se que o critério de pronto está sendo seguido pelas células 100% dos bugs críticos e graves abertos na versão estão com o status fechado? Bugs por status e severidade Relatório do Youtrack Implementado
Verificar a confiabilidade do produto Quantas falhas são encontradas por tempo de execução? Índice de confiabilidade - A confiabilidade de software é geralmente definida como a probabilidade do software operar sem ocorrência de falhas durante um período especificado de tempo em um determinado ambiente. Quantidade de bugs / Tempo de teste Implementado

Métricas de projeto

Objetivos da medição Questão Métrica Como determinar Situação
Verificar se as estimativas de tempo de teste estão corretas Estamos subestimando ou superestimando o tempo de teste? Tempo estimado e tempo gasto Relatório do Youtrack Em definição
Fornecer uma estimativa de tempo para conclusão dos testes Os testes serão concluídos dentro do prazo previsto? Em definição
Identificar quando os esforços de teste devem terminar para um produto ou requisito Quando parar de testar? Em definição

Métricas do processo de teste

As métricas de processo servem para auxiliar no controle da qualidade do processo de testes.

Objetivos da medição Questão Métrica Como determinar Situação
Padronizar a rotina de testes nos projetos Todos os bugs estão sendo classificados? Bugs sem classificação de tipo

Bugs sem classificação de severidade

Relatório do Youtrack Em definição
Avaliar a produtividade do processo de testes Quantos bugs são encontrados por um tempo específico de teste? Bugs por tempo de teste Dividir a quantidade de bugs encontrados pelo tempo de teste. Em definição
Avaliar a produtividade do processo de testes Qual o tempo médio para encontrar um defeito? Tempo de teste por bug encontrado Em definição
Avaliar o custo do teste Qual o custo de não testar? Em definição
Verificar a efetividade dos testes Quantos bugs de funcionalidades que passaram por teste foram encontrados em produção? Em definição

Outras métricas

Abaixo, listamos algumas métricas de teste de software encontradas na literatura. Essas métricas podem ser analisadas e implementadas quando for conveniente.

Métricas de produto

Número de ocorrências
Status das ocorrências
Índice de densidade de defeitos
Índice de severidade de defeitos
Tempo para arrumar um defeito
Tempo médio para encontrar um defeito
Quantidades e falhas encontradas no produto
Tipos de defeitos encontrados
Cobertura dos testes
Cobertura dos testes baseada em requisitos
Cobertura dos testes baseada em códigos
Medida e Uso da cobertura de teste
Efetividade de caso de teste
Efetividade e eficiência dos testes
Defeitos por quantidade de linhas de código
Situação ou tendência dos defeitos em função do tempo
Providências adotadas em relação aos defeitos
Defeitos por módulo
Defeitos por tecnologia utilizada
Defeitos por unidade organizacional
Defeitos por funcionário
Defeitos por hora de introdução

Métricas de processo

Numero de casos de teste
Taxa de falhas na primeira execução dos casos de teste
Custo dos testes
Custo de testar/não testar
Custo/Esforço total de testes X Custo/Esforço total de desenvolvimento
Outras análises de custo: Curva S e Curva Zero Bug Bounce
Densidade dos defeitos residuais
Relação entre defeitos e ocorrências
Taxa de ocorrências válidas
Taxa de problemas encontrados na correção dos defeitos
Defeitos encontrados X Defeitos corrigidos
Ocorrências pendentes de correção
Defeitos encontrados X Defeitos estimados
Probabilidade de defeitos
Ocorrências resolvidas que ainda não foram retestadas
Mudanças no escopo
Fase em que o defeito foi encontrado
Densidade de defeitos por unidade
Defeitos por fase em que foram injetados

Métricas de projeto

Fator de segurança
Tempo necessário para executar um teste
Tempo disponível para o esforço de teste
Taxa de esforço de teste
Categoria dos defeitos

Referências

http://www.lume.ufrgs.br/bitstream/handle/10183/18574/000730980.pdf?...1

Disponível em "http://wiki.mstech.com.br/index.php?title=Métricas_de_teste_e_qualidade&oldid=4636"