Como funciona um motor de pesquisa de imagens do Google?

O molho real é um segredo interno do Google, claro.

1) Pattern Matching
Acho que começou com uma simples correspondência de padrões, a imagem é processada e os algoritmos procuram bordas dentro da imagem.
As principais características são extraídas e armazenadas como vetores em uma base de dados.

Quando uma imagem semelhante aparece você pode procurar por características compartilhadas, muito semelhantes para correspondência de impressões digitais no seu governo local e na polícia.

2) Inteligência artificial / aprendizagem profunda
Isto foi estendido mais tarde pela inteligência artificial não só para corresponder a padrões, mas também para entender o conteúdo.
A IA olha para uma imagem e relata um grupo de identificações com probabilidades, todas essas coisas são usadas como meta tags para a imagem.
"vestido azul", "mulher loira", "praia", "água", "areia", "ensolarado"

Se você agora digitar outra imagem e a IA encontrar as meta tags similares você tem uma correspondência potencial.

3) Meta-dados correspondentes
Em cima desses dois métodos há uma terceira maneira, é verificar o conteúdo dos dados e fazer um checksum sobre todos os bits.
Se uma imagem idêntica for encontrada, o checksum será idêntico, assim você pode encontrar a correspondência exata dessa forma.