Tentei fazer assim, criando uma nova variável e colocando esse codigo, mas não executa o relatório.
$F{maxcot}.subtract ($V{qtd_xerox_4})
Esta operação depende do tipo da sua variável, por exemplo, você pode fazer isso:
new Double( $F{maxcot} - $V{qtd_xerox_4} )
Caso for um BigDecimal, pode fazer assim:
new Double($F{maxcot}.doubleValue() - $V{qtd_xerox_4}.doubleValue())