Estou pensando em criar um sistema que controla logins integrados com outros sistemas e estava pensando em usar LDAP e afins, alguém teria alguma recomendação? Tipo algum já teve que passar por isso?
O requisito principal seria criar um sistema para controlar acesso a outros “sub-sistemas”.
Rapaz acho que não, você deve ser o primeiro.
Brincadeira! 
Então camarada, o LDAP é um protocolo para pesquisa de diretórios. Temos algumas implementações do mesmo no mercado, sendo a mais comum o ActiveDirectory da MS / OpenLDAP. Pois bem, o que você deverá aprender mesmo são as operações básicas de pesquisa no servidor, podemos fazer uma analogia com o SQL. No mais existem diversas API’s que encapsulam o vendor do servidor que estiver tentando usar.
Você poderia usar o apacheDS ou o eDiR (pago) , para segurança de container/servlet lhe aconselho usar a API JAAS da própria especificação JavaEE6.
Abs
Se ajudar, eu uso LDAP com Spring, veja aqui:
É só configurar corretamente que economiza muito trabalho depois.