Processamento de imagens

ola pessoal sera que aguem poderia me ajudar com este problema sou iniciante em java e estou com muita dificuldade para resolve lo: Desenvolver uma função para segmentar uma imagem no formato RGB mantendo na imagem os objetos de uma determinada cor e o restante da imagem na cor preta

Segmentação de imagens faz parte de uma área chamada Visão Computacional, envolve conhecimento de IA e reconhecimentos de padrões, ou seja, é um assunto avançado.
Se você é iniciante, não faz o menor sentido tentar resolver um problema desses.

O que você pode tentar fazer, mas que está longe de identificar “objetos” na imagem, é identificar apenas os pixels de determinada cor e pintar os pixels diferentes na cor preta.
Para isso, utilize os métodos das classes Graphics e BufferedImage.