[Dúvida]Afinal o que é um JPanel?

O JPanel serve para receber diversos componentes, inclusive outros JPanels, que terão seu posicionamento gerenciado pelo layoutManager.

Você pode utilizá-lo para auxiliar na formação do layout (posicionamento) dos seus componentes em um frame, por exemplo.
Outro exemplo seria uma tela semelhante as de instalação de programas no Windows, que pode ser feito com um único frame que vai exibindo diversos JPanels com os “nexts” da vida até chegar no panel que possua o “finish”.

Um JFrame é bem mais complexo, existem diversas camadas que podem ser trabalhadas nele. Exemplo, quando um componente é adicionado ao frame com o método “add(Component)”, implicitamente está sendo adicionado no contentPane do frame, que costuma ser um JPanel.

Também não sou experiente, portanto se tiver algum conceito errado, me corrijam.

Panels servem para organizar componentes, ou seja para se fazer telas complexas eles são muito uteis, voce ira utilizar varios, e cada um pode ter layouts diferentes, alem de cores e bordas diferentes tambem, para o design da tela ficar bacana.

quer ver o panel, de um setBackgroud, quer ver borda de um setBorder.

ex:

panel.setBackground(Color.RED);  //orrivel, mas é apenas pra voce ver

panel.setBorder(BorderFactory.createBevelBorder(BevelBorder.RAISED));  //aqui voce ve a borda.

//experimente tambem a TitledBorder  panel.setBorder(BorderFactory.createTitledBorder("titulo"));

Segue um exemplo que fiz agora só pra vc ter uma idéia, mas em resumo acho impossivel fazer telas sem o uso de varios panels, mesmo usando o Matisse, faço uso de panels

/*
 * To change this template, choose Tools | Templates
 * and open the template in the editor.
 */

package acbrmonitor;

import java.awt.BorderLayout;
import java.awt.Container;
import java.awt.Dimension;
import java.awt.FlowLayout;
import javax.swing.BorderFactory;
import javax.swing.JButton;
import javax.swing.JFrame;
import javax.swing.JLabel;
import javax.swing.JPanel;
import javax.swing.border.EtchedBorder;

/**
 *
 * @author Fred
 */
public class Testes extends JFrame {

    public Testes() {
        super("Teste");

        Container c = getContentPane();

        JPanel jpHeader = new JPanel();
        jpHeader.setBorder(BorderFactory.createEtchedBorder(EtchedBorder.RAISED));
        JLabel jlTitulo = new JLabel("Titulo...");
        jpHeader.add(jlTitulo, BorderLayout.CENTER);
        c.add(jpHeader, BorderLayout.NORTH);

        JPanel jpCenter = new JPanel();
        jpCenter.setBorder(BorderFactory.createEtchedBorder(EtchedBorder.RAISED));
        c.add(jpCenter, BorderLayout.CENTER);

        JPanel jpFooter = new JPanel(new FlowLayout(FlowLayout.RIGHT, 5, 5));
        jpFooter.setBorder(BorderFactory.createEtchedBorder(EtchedBorder.RAISED));
        JButton jbOK = new JButton("OK");
        jbOK.setPreferredSize(new Dimension(80, 25));
        jpFooter.add(jbOK);
        JButton jbFechar = new JButton("Fechar");
        jbFechar.setPreferredSize(new Dimension(80, 25));
        jpFooter.add(jbFechar);        
        c.add(jpFooter, BorderLayout.SOUTH);

        pack();
        setVisible(true);

    }
    public static void main(String[] args) {
       new Testes();
    }
}

Quanto ao método setDefaultCloseOperation, ele serve para definir o que será feito no momento de fechar JFrame. Da forma que está, a aplicação será encerrada, pois está sendo passada a constante EXIT_ON_CLOSE.

Existem outras constantes que podem ser passadas de acordo com a necessidade. Por exemplo, se você quisesse que ao tentar fechar o frame, nada acontecesse, deveria passar a constante DO_NOTHING_ON_CLOSE:

myFrame.setDefaultCloseOperation(JFrame.DO_NOTHING_ON_CLOSE);

Em poucas palavras:

Um JFrame tem a barra do topo, com os botões de maximizar, minimizar e fechar. Ele representa a janela;
O JPanel é simplesmente uma área dentro do JFrame, um “espaço” onde componentes podem ser posicionados dentro.

Todo JFrame tem pelo menos um painel central.

OK, intendi.
Obrigado a todos.
Então o JPanel não é um componente visual, estilo botões e caixas de texto.
Ele é como se fosse o “Papel de parede” para ser posto os outros componentes.

Fredferrao obrigado pelo exemplo, irei estuda-lo.