Alguem sabe o nome do looandfell que o eclipse usa ? que da aquele efeito nas bordas ?
O Eclipse não usa Swing e sim SWT. Como decisão de design do SWT, ele tenta sempre usar o visual mais aproximado possível do padrão do sistema operacional onde ele está rodando (portanto, no XP ele deve parecer com aplicações do XP e no Windows 7 deve parecer com aplicações do Windows 7. )
O máximo que você pode fazer para customizar uma aplicação SWT são algumas coisas que não estão definidas pelo sistema operacional, como o formato dos tabs (TabFolder). Nesse caso, você seta uma propriedade (simple) para false, para ter as tabs arredondadas em vez de quadradas.
http://www.javalobby.org/java/forums/t16488.html
http://help.eclipse.org/indigo/index.jsp?topic=%2Forg.eclipse.platform.doc.isv%2Freference%2Fapi%2Forg%2Feclipse%2Fswt%2Fwidgets%2FTabFolder.html