Alguém saberia explicar melhor o que é isso?
OSGI é algo como uma plataforma de integração de serviços, que oferece a “ligação” e o gerenciamento do ciclo de vida deles e dos relacionamentos que eles formam.
O Eclipse 3, por exemplo, é gerenciado por um runtime OSGI (o Equinox) que gerencia todo o ciclo de vida dos plugis e a maneira como eles se relacionam.
Imagine que você tem um plugin X na versão 2.3, um plugin Y na versão 1.0 e um plugin Z na versão 3. O plugin X depende da versão 1.0 do plugin Y e o Z também depende da versão 1.0 do Y.
De repente, você atualiza X pra versão 3 e essa nova versão 3 depende da versão 2 de Y, mas você não pode simplesmente colocar a versão 2 lá porque vai quebrar compatibilidade com o plugin Z (que depende da versão 1.0 de Y). Então, o Eclipse mantém as duas versões de Y na sua instalação, mas faz com que cada plugin veja apenas a versão que lhe interessa (o X vê a versão 2 e o Z vê a versão 1), sem que você tenha nenhum problema com isso.
Isso, é apenas um dos vários exemplos de gerenciamento via OSGI possíveis (e um dos mais interessantes também :D), tem muito mais coisa por debaixo dos panos, é só ir dar uma estudada: http://en.wikipedia.org/wiki/OSGi