Gostaria de num JTextArea pode selecionar um determinado conteudo com o mouse e quando eu clicar com o botão direito em cima deste texto, gostaria que aparece-se um menu popup com outras opções, quando se escolhe outra opção o texto seleciona se alteraria para o que foi escolhido no popup. Como acontece por exemplo no Word com o corretor de texto, e possivel?
Para fazer o que você está precisando creio que será necessário usar o JTextPane.
Na URL abaixo existe um exemplo completo utilizando essa classe. Não tem um POPUP mas tem um MENU com algumas funções que podem ser aplicadas ao texto selecionado, então basta você adequar o que está pronto.
JTextArea possui muitas restriçoes, não permitindo por exemplo, criar várias formatações para o texto que está sendo apresentado, como uma parte do texto em negrito, outra em itálico, outra com sublinhado, por exemplo. Para esses casos, é necessário utilizar JEditorPane, ou uma sub-classe dele, como JTextPane. Essas duas últimas classes possuem recursos mais avançados, inclusive permitindo apresentação de imagens juntamente com texto, tudo numa mesma área, páginas HTML, conteúdo de arquivo RTF.
Então, conforme sua necessidade, utilize JTextArea, JTextPane ou JEditorPane.