Algumas observações para você, lembrando que não precisa ser tudo feito no mesmo dia, mas ao longo dos primeiros dias. Vou pular o superbásico (como cumprimentar as pessoas, mostrar respeito, perguntar sempre que tiver uma dúvida, conferir o horário de expediente e almoço, etc).
Um primeiro passo é saber quem manda em você 
. Saber quem é seu superior imediato, que te dá as ordens diretas e a quem você deve se reportar. Se houver mais de um, veja se há uma hierarquia entre eles. É com essa pessoa que você deve discutir tudo o que pretende fazer, lembrando que ela não pode ser técnica, então você tem que se habituar a conversar num nível mais abstrato e informal, concentrando no que será feito e nas abordagens que você sugere, não em detalhes de implementação.
Se há uma equipe de suporte/manutenção, procure entender até onde vão as tarefas deles e onde começam as suas. Veja quais as políticas de e-mail, por exemplo, se vão te dar um e-mail com o domínio da empresa. Também eles podem estar responsáveis para te fornecer um computador para trabalho, e instruir o que você pode instalar ou não. Se não há tal equipe, converse sobre esses temas com seu superior. Veja se há algum treinamento pelo qual você deve passar ou se vão te largar na frente do computador à própria sorte .
Sobre o sistema, não saia mexendo em nada até ter uma boa ideia de como está organizado o código, quais ferramentas, frameworks e afins são usados, se alguma metodologia em específico foi aplicada, se há controle de versão, se o código está completo e usável (se a outra empresa está saindo de cena, é importante garantir que eles não aprontaram nada antes de sair). Antes de sair fazendo alterações, aproveite para sugerir e implementar coisas importantes, como um fluxo de alterações, um log de bugs e alterações (com prioridade de cada item) e controle de versão (caso não haja). Note que esses itens podem requerer intervenção de outras áreas e ferramentas que a empresa pode não ter (por exemplo, um servidor para armazenar o controle de versão).
Tudo o que for combinado de ser desenvolvido deve ser registrado, com o aval de seu superior. Dependendo do tipo de hierarquia, pode ser algo simples, como um e-mail com a lista do que será feito, com a observação de que você aguardará a confirmação dele antes de fazer qualquer coisa. Assim, tudo fica registrado e claro, e ninguém poderá dizer depois “mas eu não pedi isso”.
Talvez seja um pouco tarde para essa observação, mas verifique se há um código de vestimenta. Algumas empresas pegam menos no pé, mas outras podem ser mais chatas quanto a isso, principalmente se há visita de clientes ao escritório onde você está.
E procure focar numa boa comunicação, tanto falada quanto escrita. Não adianta ser um supergênio se as pessoas não entendem o que você fala.
Boa sorte.
. Saber quem é seu superior imediato, que te dá as ordens diretas e a quem você deve se reportar. Se houver mais de um, veja se há uma hierarquia entre eles. É com essa pessoa que você deve discutir tudo o que pretende fazer, lembrando que ela não pode ser técnica, então você tem que se habituar a conversar num nível mais abstrato e informal, concentrando no que será feito e nas abordagens que você sugere, não em detalhes de implementação.