JavaDoc em XML

1. Você pode escrever um Doclet (veja o site http://http://java.sun.com/j2se/javadoc/ e veja a Doclet API, http://java.sun.com/j2se/1.5.0/docs/guide/javadoc/doclet/spec/index.html )
   Procure no Google: XML e Doclet

2. Você pode usar o Doxygen ( http://www.stack.nl/~dimitri/doxygen/ ), que é uma ferramenta que gera Javadocs para C, C++, Java, e outras linguagens. Ele tem a opção de saída XML.
   Dica para as configurações do Doxygen:

OPTIMIZE_OUTPUT_JAVA = YES
GENERATE_XML = YES