Bem, na verdade não há nada de muuuito complicado em fazer isso.
Você está usando que tipo de formatador?
Da uma olhada como fazer usando um MaskFormatter
Primeiro, vc declara os maskformatters q vc precisa como membros da classe (do seu jframe), não esquecendo dos imports.
Imports necessários.
import java.text.*;
import javax.swing.text.*;
Declaração das máscaras
private MaskFormatter mascaraRG;
private MaskFormatter mascaraCPF;
No construtor do teu JFrame ou outro container, vc instancia as máscaras
try {
// criando máscaras
mascaraRG = new MaskFormatter( "##.###.###-#" );
mascaraCPF = new MaskFormatter( "###.###.###-##" );
} catch ( ParseException exc ) {
}
E para setar a máscara q v uqre utilizar em tempo de execução é só utilizar, por exemplo
formattedTextField.setFormatterFactory(
new DefaultFormatterFactory( mascaraCPF ) );
Ai vc registra os eventos dos radio buttons e quando clicar em um vc põe esse código para setar a máscara correspondente.
Falow!