To desenvolvendo um quiz no android studio e quero que quando o usuário clicar na resposta errada o button fique vermelho, e quando clicar na resposta certa fique verde

Alguma ideia de como se faz isso?

Sim. No Android vc vai instanciar o botão, depois faz a condição, exemplo simples,

    if(resposta==3){
 botao.setBackgroundResource(R.color.GREEN);
    } else {
       botao.setBackgroundResource(R.color.Red);
    }