Posso copiar um arquivo executável (.exe) para um pen drive e instalá-lo em um novo computador?

A maioria dos executáveis modernos a resposta é não - anos atrás nos dias do MS-DOS você poderia escapar com apenas colocar o executável em algum tipo de mídia de armazenamento portátil e movê-lo para um novo computador sem problemas, porém a maioria dos executáveis modernos precisam de muito mais do que apenas um arquivo para rodar.

alguns têm uma pasta inteira que é necessária para que eles rodem, às vezes também há entradas de registro e arquivos DLL que precisam ser copiados também.

A melhor maneira de copiar um ficheiro EXE de um computador para outro é copiar o seu programa de instalação e executar o programa de instalação no novo computador, dessa forma todos os ficheiros serão instalados no local correcto.

alguns programas como por exemplo o Opera (Opera portable | USB browser | Download gratuito | Opera) têm uma versão portátil ou autónoma do seu software. Este é geralmente um arquivo que contém todos os arquivos necessários para rodar que podem ser usados de computador para computador (já usei isso uma vez em nossa biblioteca local, pois eles estavam rodando uma versão muito antiga do Chrome em seus computadores e era mais fácil e seguro usar o Opera portátil do que seu antigo navegador desatualizado).