Algumas dicas:
Até hoje acho que descontinuar o VB6 foi uma das maiores burrices da Microsoft… Infelizmente desenvolver em .NET mesmo VB.NET não é tão produtivo e os resultados gerados não são tão rapidos e bons quanto os gerados em VB6 quando se precisa de algo muito simples… mas enfim… algo simples pode ser feito talvez em VBA dentro do access… então deixa para la.
Resumindo… hoje seja usando .net ou java, fazer algo leve e funcional como se fazia em VB6, não é tao trivial… sendo assim esqueça rodar em maquininhas com pouca memória como em VB6 que você rodava em maquinas windows 2000 com 64mb de ram…
Java é um pouco mais pesado que .NET, então tem que analisar bem se vale a pena fazer em Java. Se sua necessidade for rodar apenas em windows, pense bem os prós e contras do java. Um bom argumento é já conhecer Java e isso aumentaria a produtividade.
Também é mais dificil distribuir em java, sem dizer que se quiser proteger o código terá que usar algo que compila para nativo(tipo excelsior jet) ou ofuscador… também pode ser mais chato!
Se optar por java, fazendo em SWT fica mais leve que em Swing e dará para rodar em maquinas com 512 (dependendo até 256mb) de ram… se for swing, menos que 1 gb é dificil!
Tem também a opção do JavaFX mas nunca usei!
Eu não recomendaria o Mono pois achei as IDEs muito improdutivas nos testes que fiz (não chegam perto de netbeans, eclipse, visual studio) mas só testei o monodevelop e pode ser que tenha melhorado… as vezes é uma opção!
Boa Sorte!