Então… na realidade seu setBackground funcionou…
o que deve estar acontecendo é que você tem um painel por cima da sua janela principal… e você deve dar um setBackground nela também…
Por exemplo: nesse seu JDialog, você tem botões? esses botões estão adicionados aonde? em um container (painel)… pegue ele e defina io_painel.setBackground(Color.BLACK)