Há umas solução para isso? preciso colokar uma janela dentro de outra não precisa ser painelinterno.
Por favor, ao postar tópicos, não use marcadores para o óbvio como [Dúvida] ou [Ajuda].
Respondendo a sua pergunta: Não. Não existem JDialogs “internas”.
[Duvida]
Então, a resposta foi direta: Não existe como criar um JDialog dentro de um JFrame. Ponto, simples assim.
Há xunxos para tentar emular o comportamento do JInternalFrame, mas não funcionam.
O que você quer não existe. Se esse requisito está no seu projeto, avise quem deixou lá que não é possível fazer isso em Java. E, se você conseguir fazer, vai ser a um altíssimo custo e a duras penas na hora de manutenção.