Esse é um “E” (AND) binário. No caso, ele serve para fazer um E com o valor 0xFF, que é 255. Ou seja, somente os bits do valor “b[i]” até 255 serão mantidos. Dê uma olhada na internet para conhecer mais sobre E e OU binários.
O resultado é que você garante que o valor resultante do b[i] & 0xFF será um valor inteiro de 0 a 255.