É que um JCheckBox deriva de JToggleButton, que deriva de AbstractButton, e é essa classe que tem o método isSelected.
Não é preciso fazer cast nenhum.
java.lang.Object
extended by java.awt.Component
extended by java.awt.Container
extended by javax.swing.JComponent
extended by javax.swing.AbstractButton
extended by javax.swing.JToggleButton
extended by javax.swing.JCheckBox