É possivel fazer em uma tela feita em java o que é chamada em visual basic de frame e em html de caixa de grupo.
Não lembro se uma caixa de grupo é um grupo de botões ou apenas a moldura deles!
Se for um grupo de botões oq vc precisa é o ButtonGroup, com ele vc cria os grupos para os botões, veja em http://java.sun.com/docs/books/tutorial/uiswing/mini/fifthexample.html
Se for a moldura ai vc precisa criar um JPanel e mudar a borda para uma borda com título, assim:
JPanel panel= new JPanel;
panel.setBorder(BorderFactory.createTitledBorder( BorderFactory.createLowedBevelBorder(),"Título"));
procure pelo método BorderFactory.createTitledBorder() na api do Java que lá explica melhor!
Se não for nada disso me desculpe, mas eu viajei legal na maionese!