Li uma matéria ontem que mais uma vez me mostrou que ainda temos muito a caminhar na análise de números em Educação. Dados são traiçoeiros e exigem cuidados, alguns critérios de análise e muita atenção.
A matéria no qual me refiro é ‘Homofobia na escola cresce 160% em SP’, de autoria de Isis Brum do Estado de S. Paulo. Com todo respeito à reportagem e à autora, mas dado o título impactante já começo o texto dizendo que não há validade estatística nenhuma nos resultados encontrados.
O título é embasado na seguinte informação: “Em 2004, 1,5% dos estudantes paulistas afirmou (em questionário aplicado junto com a avaliação do Exame Nacional do Ensino Médio – Enem) ter sofrido preconceito por causa de sua orientação sexual. Quatro anos depois, o porcentual passou para 3,9%.”
Vou discutir abaixo os problemas de análise na matéria e elencar algumas perguntas que devem ser respondidas caso queira-se avaliar se houve mudança de um determinado cenário em um período de tempo.
1. Quem eu quero avaliar? Essa pergunta é muito importante para que se possa achar o dado adequado que dê a estatística desejada. Caso queiramos ver se houve ou não crescimento da homofobia nas escolas que oferecem a Educação Básica teremos que ter uma base de informações que nos permita ter um número representativo para esse ciclo ou teremos que avaliar etapas de forma separada de acordo com os dados disponíveis.
O Enem, a princípio, só permitiria avaliar o que acontece nas escolas de Ensino Médio, e preocupa-me muito a matéria não explicar as características dessa avaliação em nenhum momento no texto. Há um descaso sobre quem são os alunos que respondem pelas estatísticas mencionadas na reportagem. A matéria diz: “Um levantamento inédito, feito com base no questionário socioeconômico do Exame Nacional do Ensino Médio (Enem), entre 2004 e 2008, mostra um crescimento de 160% no número de pessoas que se declararam vítimas de homofobia no Estado de São Paulo”. Aumento no número de pessoas que se declaram vítimas de homofobia no estado de São Paulo? Certamente nunca os questionários do Enem investigarão as pessoas do estado paulista como um todo. Também não darão a resposta sobre os estudantes paulistas, como mencionado na primeira citação da matéria que coloquei nesse post. Os alunos que fazem o Enem não representam nem os alunos do Ensino Médio, já que muitos alunos não fazem essa avaliação (principalmente se não tiverem interesse em ingressar na universidade).
2. Os meus dados são comparáveis? A matéria compara as respostas dos alunos que fizeram o Enem em 2004 com as respostas dos alunos que fizeram o Enem em 2008. Mas esses alunos são comparáveis? A meu ver não. O Programa Universidade para Todos (ProUni) que concede bolsas de estudos por meio do Enem foi criado em 2004 e fez com que a adesão ao Enem por grupos de classe socioeconômica mais baixa crescesse muito. Dado isso, faço uma pergunta: “Teria o preconceito aumentado dentro das escolas ou mais pessoas que sofrem preconceito começaram a fazer o Enem (ou aconteceram os dois fatos)?” A mudança de perfil dos alunos que fazem a avaliação e respondem aos questionários não permite com que possamos ter essa resposta.
3. Qual a margem de erro da minha análise? Consideremos que os alunos que fazem o Enem representam os alunos de suas escolas e que em 2004 e 2008 possuíam o mesmo perfil. De qualquer forma, por não serem todos os alunos que fazem o Enem, já existiria um erro amostral. Sem contar erros que podem ocorrer por erro de preenchimento do aluno, de transcrição, etc. E, nesse sentido, usar percentuais para avaliar uma evolução em patamares muito baixos torna-se um pouco sensacionalista. Em uma pesquisa não censitária a validade estatística de um aumento de 1% para 2% não é a mesma de um aumento de 10% para 20%. Não por acaso os jornais não exaltam candidatos que sobem de 1% para 2% nas pesquisas eleitorais.
4. Qual o formato de pesquisa que eu preciso para minha análise? Avaliar pesquisas que mensuram opiniões é algo consideravelmente complicado. Quando se lida com temas complexos como preconceito, violência, qualidade, etc. isso se torna ainda mais difícil. Pesquisas com questões fechadas e que trazem resultados quantitativos muitas vezes se mostram limitadas para algumas avaliações. Há alguns testes que analisam o comportamento de respostas dos indivíduos e que mesmo assim não resolvem esse problema. Então, todo cuidado nas análises de temas como o da matéria citada é pouco.
Enfim, esses erros de análise não são exclusivos da matéria e nem mesmo a jornalista deve ser crucificada por isso. Deixa-me preocupado, apenas, o fato de esses erros terem passado despercebidos por tantas pessoas. E um motivo a mais para citar a reportagem é a irresponsabilidade política da mesma. Formar a opinião de pessoas sobre um assunto que vem sendo discutido com um dado inválido é algo digno de grande repreensão, até por que isso não é necessário para que saibamos como o preconceito afeta a vida de muitos alunos.