Você pode acessar dll’s feitas em c, pelo que sei, mas dá uma olhada no JNI, é o camarada que faz esta ligação em java, dá uma procurada por ele, voce vai achar bastante coisa.
Para você passar parâmetros pode passar na linha de comando.
Acredito que o sistema em VB seja legado, hoje em dia não dá rpa jogar nada fora sem um bom motivo e um orçamento melhor ainda, mesmo que feito em VB :evil:
Você pdoe tentar criar uma DLL C/C++ para acessar sua DLL VB ou algo tipo isso aqui.