Arquivo Discussoes de Programacao e Tecnologia 
Quando o Java irá alocar a memória inicial do heap, ele passará primeiro para o young do young irá prover os objetos para o old generation, dessa forma se alocamos um -xmx512 mas configuramos explicitamente o young, essa parte total será divida para ambas. Porém e o permante, se o cofigurarmos a sua memória não será distribuída para com os outros dois (young e old)?
Quando entra em ação o Permant? Já que o mesmo é para metadata!
É melhor olhar a documentação direitinho.
-Xmx só estabelece o máximo usado pelo heap; ele não indica qual é a porcentagem de memória usada pela geração jovem ou não.
http://java.sun.com/javase/technologies/hotspot/gc/gc_tuning_6.html
No seu caso, você quer ajustar -XX:NewRatio (para a geração jovem) e -XX:MaxPermSize (para a geração permanente); mas acho que os valores padrão devem ser suficientes para a maior parte das aplicações (exceto no caso da geração permanente, que costuma acabar precisando de um pouco mais, se você estiver usando um programa que tem muitas classes, como é o caso de um application server ou web container onde o “hot deploy” esteja configurado para estar ativado.)