Capturar imagens de placa PCI com câmeras RCA com java é possível?

Você pode tentar instalar o JMF no Linux para ver se ele reconhece sua câmera, mas provavelmente não vai dar certo, porque você teria de ter um driver dessa câmera para o Linux. A menos que o Linux (por exemplo, o Ubuntu ou o Fedora) reconheça sua câmera automaticamente porque ela é semelhante a alguma que já exista, acho pouco provável que você consiga sucesso.

enantiomero:

A placa vem com software e drives somente para windows

Você pode tentar instalar o JMF no Linux para ver se ele reconhece sua câmera, mas provavelmente não vai dar certo, porque você teria de ter um driver dessa câmera para o Linux. A menos que o Linux (por exemplo, o Ubuntu ou o Fedora) reconheça sua câmera automaticamente porque ela é semelhante a alguma que já exista, acho pouco provável que você consiga sucesso.

Mas mesmo se o linux reconhecer a placa, imaginemos o seguinte, a placa está instalada no windows, mas eu quero fazer o programa de captura das imagens e não usar o programa que acompanha a placa, teria como eu fazer?

Qual tecnologia eu conseguiria capturar as imagens das câmeras, será que a placa PCI “cria” uma entrada pra cada câmera conectada? JMF me auxiliria nisso? rxtx ?

Você precisa, em suma, descobrir:
a) Se o Linux suporta sua placa
e
b) Se o JMX consegue reconhecer a maneira que o Linux descobriu sua placa.

Se você conseguir essas duas coisas, poderá fazer seu programa Java funcionar.
Mas, como eu já lhe disse, não tenho muitas esperanças; seria aconselhável você sair perguntando por aí se alguém já conseguiu fazer isso.
Se o fabricante não dá suporte a Linux, provavelmente o Linux só daria suporte a essa placa se ela fosse muito usada (como um winmodem, por exemplo, que é uma coisa que é suportada pelo Linux “apesar do fabricante”).
Mas se essa placa é de um fabricante que vende 1.000 placas por ano talvez não haja suporte a Linux dado por terceiros.