Depende muito do seu objetivo. Pode ser uma boa pegar uma linguagem de mais baixo nível, para entender como a máquina funciona, como o C++ ou o C. Essa linguagem também permite expandir sua possibilidade de contratação fora do comércio, pois ela é mais usada na indústria.
Ou talvez, você queira aprender novas maneiras de pensar no problema, nesse caso, você precisa pegar linguagens em paradigmas diferentes do Java, como Scala, Prolog ou Lisp.
Ou as vezes você só quer ampliar suas possibilidades de contratação e mercado, nesse caso, é uma boa aprender a linguagem que é o principal concorrente do Java hoje, o C#. Ou outra que esteja em alta na sua região (PHP, Delphi, sei lá no que o povo programa por aí).
Ou quem sabe você queira aprender algo mais fácil, que você possa integrar na sua ferramenta e até fornecer para seu usuário fazer programinhas simples. Nesse caso, veja linguagens de script como o Groovy ou o Lua.
Finalmente, pode ser uma boa aprender uma linguagem de uma tecnologia com a qual você normalmente integra sua programação. Por exemplo, o servidor é programado em Java, mas os dados são normalmente exibidos em páginas HTML que rodam JavaScript. Por isso, aprender bem JavaScript não é uma má idéia se você for um desenvolvedor web.