Vamos lá…
O meu eclipse é 64bits.
O meu java que está no caminho “/usr/local/jvm/jdk1.6.0_43/bin/java” é 32 bits.
Fiz o teste do FILE no caminho acima e constatei o que já sabia, meu java é 32bits mesmo 
Certo. Então, como eu havia explicado, o Eclipse vai quebrar mesmo, já que um programa de 64 bits (como é o caso do Eclipse) não pode carregar um “shared library” de 32bits (que é a implementação da JVM que é usada pelo java que você está especificando).
É que o Eclipse, na verdade, não puxa diretamente esse arquivo java mas sim tenta carregar um .so (acho que se chama libjvm.so) que é carregado por esse arquivo java.
Os bits têm de bater: 32 -> 32, 64 -> 64
Atenção: não testei, mas não há nada que impeça você usar um Eclipse de 64 com um Java de 64 e rodar e debugar programas (em uma JVM separada, que é uma coisa que o Eclipse permite) em um Java de 32 bits. Basta você especificar corretamente no seu projeto Eclipse qual é a JVM que vai ser usada (se é a versão 5, 6, 7 ou 8, e qual sua localização dentro do disco).