Como é que as fotos de cache do Facebook parecem ser instantâneas?

Facebook utiliza a Akamai Technologies (empresa) para fazer o cache das fotos. Você pode saber mais sobre a Akamai aqui: Como funciona o CDN da Akamai?.

A própria fotografia é armazenada no disco através do Haystack. Pode saber mais sobre o Haystack aqui: https://www.facebook.com/note.php?note_id=76191543919

Existe um sistema em cima do Haystack que faz redundância. Você pode obter alguns detalhes sobre esse sistema aqui: Como a HBase se compararia ao Haystack do Facebook' para armazenamento de fotos?

Memcached é usado para vários metadados de fotos, como quem possui a foto ou o que a legenda diz. Você pode aprender mais sobre memcached aqui: https://www.facebook.com/note.php?note_id=39391378919

Alguns outros truques estão pré-carregando. Usando firebug você pode inspecionar o tráfego HTTP enquanto abre um álbum e você'irá notar as fotos na frente e atrás da que você're atualmente estão carregadas para que elas já estejam carregadas quando você clicar em próximo. Você pode aprender mais sobre pré-carregamento aqui: Qual é a melhor maneira de pré-carregar várias imagens em um navegador?