De fato, o Geany tem de ser configurado para encontrar o JDK; se você simplesmente instalar o Geany e tentar compilar um programa, ele vai dar o seguinte erro:
Processo falhou (The system cannot find the file specified)
Para evitar isso, você precisa modificar o arquivo C:\Program Files\Geany\data\filetypes.java
Onde está escrito
[build_settings]
# %f will be replaced by the complete filename
# %e will be replaced by the filename without extension
# (use only one of it at one time)
compiler=javac "%f"
run_cmd=java "%e"
Troque pelo comando completo que é necessário para iniciar o Javac. Não sei onde está instalado o javac.exe na sua máquina. Digamos que ele esteja em c:\Arquivos de Programas\Java\JDK1.6.0\bin\javac.exe. Como há espaços no nome, é necessário pôr aspas, como mostro abaixo.
[build_settings]
# %f will be replaced by the complete filename
# %e will be replaced by the filename without extension
# (use only one of it at one time)
compiler="c:\Arquivos de Programas\Java\JDK1.6.0\bin\javac.exe" "%f"
run_cmd=java -cp . "%e"
Salve o arquivo filetypes.java.
Uma vez feito isso, você precisa reiniciar o programa Geany, e ver se a atualização do arquivo de configuração funcionou.
EDIT - Esqueci que tem de mexer no comando run_cmd também 