Procure por Swing, que é uma API do Java responsável por apresentar graficamente seu aplicativo.
O Swing é formado por vários componentes, sendo os mais comuns:
JFrame: é a estrutura da sua janela.
JPanel: um painel que permite apresentar vários componentes. Normalmente essa componente é inserido dentro de um JFrame.
JLabel: apresenta uma única linha de texto.
JTextField: a grosso modo, seria um JLabel aprimorado, permitindo que o usuário digite textos. Mas ainda só apresenta uma única linha de texto.
JTextArea: um campo que permite a apresentação de várias linhas de texto. Seria um JTextField melhorado.
JButton: um botão.
JComboBox: um combo onde o usuário pode selecionar uma opção.
JCheckBox: um campo de checagem, onde o usuário seleciona ou não.
JTable: uma tabela.
Depois de aprender o básico sobre Swing, pesquise também sobre LookAndFeel, que permite melhorar, e muito, a aparência de seus aplicativos.
Para organizar melhor seus componentes na tela, procure por gerenciadores de layout.