Criar ferramente polygonal lasso tool

Possível é, só não sei a complexidade disso tudo…

A API swing em Java tem suporte a Undo/Redo e a API do Java 2D tem potencial para as operações que você precisa.

Mas você realmente precisa FAZER esse programa? Não dá mesmo para usar um pronto?

realmente preciso fazer isto, pq vai ser imcorporado a outros modulos de um sistema… senão era só usar um photoshop mesmo…rs

Possível é, mas é MUITO trabalhoso. No meu portal, o Ponto V (link na assinatura), iniciei uma série de artigos sobre o Java 2D, que podem ser úteis para você.

Considere com carinho a possibilidade de pedir para seu usuário tratar a imagem fora do programa, no photoshop ou no gimp, e só inseri-la por lá depois de pronta. O custo de desenvolver o que você quer é muito alto, além do que, sua solução será muito inferior a um produto de mercado.

Com certeza, e sem duvida, eu optaria pelo Gimp.