Esse construtor procura a imagem no sistema de arquivos. Para procurar um recurso que esteja no seu classpath (independente se está no sistema de arquivos ou no .jar) use o getResource(), como o colega já demonstrou. Entretanto observe os seguintes detalhes:
1. O arquivo deve estar no seu classpath. E o endereço é relativo a esse classpath (provavelmente não vai existir o /src)
2. O .jar é case-sensitive, mesmo que o Windows não seja. imagem.gif é diferente de imagem.GIF;
3. Caso o arquivo não seja encontrado, o getResource retorna null, ao invés de lançar uma exceção. Quem vai acabar lançando a exceção é o ImageIcon, dizendo que a imagem não pode ser nula.