Limites em memória da JVM

Seu colega não deu a informação completa e foi muito otimista.

Em um SO de 32 bits (onde naturalmente você vai usar uma JVM de 32 bits), o máximo valor para o heap é 1.6GB apenas. Isso é porque o heap precisa ficar em um único bloco de memória retornado pelo sistema operacional, e tipicamente os sistemas operacionais de 32 bits não conseguem alocar um bloco maior que isso.

Em 64 bits (e usando uma JVM de 64 bits) a limitação é dada pela memória disponível. Portanto, se precisar de usar bastante memória em um único processo (JVM) atualize seu sistema operacional.

Estou usando 2536Mb em um SO de 32 bits.

JAVA_OPTS="-server -Xms768m -Xmx2536m"