Como são instalados os aplicativos em telefones 'burros', por exemplo, celulares Nokia antigos, considerando que eles não têm CPU, GPU, RAM, etc.?

Todos os telefones digitais têm CPU e RAM... os mais antigos tinham unidades gráficas mas não GPUs verdadeiras. Na verdade, o processador ARM já era a CPU mais popular do mundo, devido a ser usado na maioria dos telefones burros, mesmo antes do smartphone aparecer... O ARM afirma que o processador ARM número 50 bilhões foi enviado em 2013. Mas os processadores ARM usados nos primeiros telefones burros eram de uma classe diferente daqueles eventualmente usados em smartphones.

Os telefones burros não podiam suportar nenhum tipo de "aplicativo". Eventualmente, eles tinham alguns "aplicativos" embutidos que você mesmo não podia instalar, mas eram consertados no telefone. Além da óbvia agenda de endereços, você poderia ter uma agenda, um aplicativo de câmera, um aplicativo de música, etc. E eventualmente, você tem um navegador web.

Os primeiros navegadores web não rodavam sites desktop completos, mas eles começaram a suportar Java Micro Edition. Com o tempo, jogos e outros "aplicativos" foram lançados em Java ME para este tipo de telefone. Estes telefones mais ou menos burros, enganados com muitos aplicativos e talvez suporte limitado para alguns poucos aplicativos adicionais, foram apelidados retroativamente de Feature phones. Estes ainda tipicamente suportavam JavaME, além de suas aplicações customizadas embutidas.

Obviamente, mais tarde os Smartphones praticamente evoluíram para fora do mundo dos PDA, primeiro com Handspring, depois Microsoft e Palm. Os Smartphones modernos usam armazenamento em massa de memória flash, não muito diferente de um desktop ou laptop com um SSD, além da escala. Mas os primeiros Palms e outros PDAs colocavam tudo em RAM, além do próprio sistema operacional (os primeiros Palms usavam ROM mascarada, o Palm III e mais tarde usavam memória Flash para permitir atualizações do sistema operacional). Como os PDAs já foram projetados para suportar aplicativos, o PDA + Phone Modem que nos deu o Smartphone foi, também.

Mas quando a Apple entregou o iPhone pela primeira vez, eles esperavam que todos os aplicativos fossem localizados online, assim como com os antigos telefones JavaME. Para o iOS 1, apenas a Apple podia colocar aplicativos no seu telefone, ninguém mais, mesmo que o telefone tivesse uma GPU e muita memória Flash. Mas é claro, pelo iOS 2.0, a Apple permitia que os aplicativos carregados pelo usuário fossem baixados.