Como decifrar um EXE

Só estou respondendo a esta pergunta porque estou lhe dando o benefício da dúvida, assumindo que você está interessado como um exercício puramente técnico/acadêmico, e você não pretende cometer um crime.

O melhor livro sobre o assunto é Reversão: Segredos da Engenharia Reversa. EXE, assumindo que você está falando sobre aplicações Windows, use o formato Portable Executable (PE), e você precisará se familiarizar com a linguagem de montagem de 32 ou 64 bits, e ferramentas como disassemblers, etc. É claro, a extensão de arquivo EXE é específica para o sistema operacional, e tem formatos diferentes em ambientes OS diferentes.

Keep, tendo em mente que, se você estiver tentando fazer engenharia reversa em software comercial, você provavelmente está violando os termos da licença, violando a lei, e pode estar sujeito a processos e penalidades muito íngremes. Ao longo das últimas décadas, eu tenho visto várias fortunas desaparecerem devido a casos de engenharia reversa em tribunais. Os proprietários de propriedade intelectual processam, eles ganham casos, e a engenharia reversa não é um crime sem vítimas. Mas mesmo se você tivesse uma equipe jurídica que de alguma forma vencesse a equipe jurídica do proprietário da propriedade intelectual, os custos legais sozinhos superariam de longe qualquer economia em software.

O custo do software comercial legítimo, não importa o quanto seja caro, é sempre muito inferior ao custo potencial de estar envolvido em uma ação judicial por engenharia reversa, quer você ganhe ou perca o caso.

E se você tem ou está construindo uma reputação profissional na indústria de software, nunca vale a pena o risco de reputação de se envolver em engenharia reversa ilegal. Se você acha que vai ficar bem no seu currículo, pense novamente. Nenhum empregador legítimo arriscaria contratá-lo, se descobrissem que você se envolveu neste tipo de atividade. O risco para eles seria muito alto.

Ficar legítimo. Vale a pena.