Classificadores Bayesianos

Na disciplina de Raciocício Probabilístico, apresentei um trabalho sobre classificadores Bayesianos (principalmente Naive Bayes) e apliquei-os a uma tarefa de análise sintática da língua portuguesa. A apresentação pode ser encontrada aqui e o relatório aqui

A tarefa era a seguinte: dada uma frase, classificar o tipo de sujeito que ela possui: Sujeito Explícito, Oculto, Indeterminado ou Inexistente (oração sem sujeito). Isso foi feito extraíndo-se alguns atributos das frases e usando probabilidades calculadas de um conjunto de treinamento (aprendizagem supervisionada).

Escolhi os seguintes atributos, de fácil extração: número de palavras da frase, número e pessoa do verbo, classe gramatical do termo anterior ao verbo, presença de "-se", infinitivo do verbo é "haver";

Por exemplo, na frase: "Ele leu o blog.", temos os seguintes atributos:

Núm. palavras: 4

Núm e pessoa do verbo: 3a pessoa, singular

Classe do termo anterior: pronome

Presença de "-se": não

É verbo "haver": não

E se for parte do treinamento, fornecemos a classe: Sujeito Explícito.

Com o Naive Bayes Classifier, assumimos que todos os atributos são independentes. Então bastam as probabilidades a priori de cada classe e as condicionais de cada atributo dada a classe.

Então a aprendizagem calcula probabilidades a priori com suas frequencias, como:

p(Suj. Explicito) = quantidade de frases SE / quantidade total de frases no conjunto de treinamento

E também as probabilidades condicionais, por exemplo:

p(termo anterior=pronome|classe=suj. oculto)

Nos testes que realizei, treinando com frases de textos jornalísticos e do conto "A cartomante" de Machado de Assis, obtive taxa de acerto de 84%.

Monty Hall

Problema: Num programa de televisão, existem 6 painéis, numerados 1 a 6. Atrás de 1 deles está o prêmio, enquanto os outros 5 nada contém. O participante escolhe 1 painel no início, mas ainda não revela-se o seu conteúdo. O apresentador então, sabendo onde está o prêmio, começa a abrir os painéis restantes. Ele abre 4 painéis, nenhum com o prêmio. Sobram então 2 painéis, o º 3 que o participante escolheu e o nº 6. O apresentador então pergunta se ele deseja ficar com o que escolheu ou se quer trocar, sendo que depois disso o prêmio será revelado. Qual é a decisão mais recomendada?

Essa é uma variação do famoso problema de Monty Hall, ou da Porta dos Desesperados ou paradoxo dos 3 prisioneiros. Se o objetivo da participante for maximizar a probabilidade de ganhar o prêmio, então a resposta é que ele deve sim trocar de painel. Isso porque a probabilidade de ele ter acertado no início (1/6) não mudou. Cada painel iniciou com essa mesma probabilidade, mas o apresentador fez o favor de reduzir todos os 5/6 de chance restantes a uma única opção. Ou seja, é como se a escolha fosse entre 1 painel ou 5 painéis.

Agora, se enunciarmos o problema um pouco diferente: O participante escolhe 1 painel. O apresentador, sem saber onde está o prêmio, vai abrindo os outros paineis aleatoriamente e chega-se na mesma situação final (4 abertos sem prêmio). E agora, qual a melhor escolha?

Nesse caso, a probabilidade de estar em cada um dos painéis é a mesma, de 50%. O fato do apresentador não saber e ir abrindo aleatoriamente faz com que a chance não mude pois nenhuma nova informação foi adicionada, apenas "deu sorte" de não ter aberto o prêmio ainda.