Como faço pra nao fazer isso, ao executar
O JFrame que contém o seu relatório deve estar configurado para encerrar a aplicação quando for fechado. Para evitar isso, faça o seguinte durante a criação do JFrame:
frame.setDefaultCloseOperation(JFrame.DISPOSE_ON_CLOSE);
onde é o nome do JFrame do relatório.