preciso de uma base para estudos, engine ou algo desse tipo.
Atenção - não fique bitolado em “Java” (eu vejo que um monte de gente simplesmente descarta aqui algumas sugestões que dou, só porque não são 100% Java. )
Se você precisar aprender outra linguagem, faça isso 
Unit3D é a melhor solução multi-plataforma.
Se quiser algo apenas Android pode dar uma olhada nesse artigo;