Existe algum mestrado relacionado com a realidade aumentada?

Visão computacional, computação gráfica, aprendizado de máquina e desenvolvimento de jogos como já mencionado são todas boas respostas que o levarão por caminhos muito diferentes. Idealmente você quer restringir um pouco:

Você quer criar aplicações e experiências de RA? Então vá com o desenvolvimento de jogos.

Deseja melhorar a qualidade dos fones de ouvido AR? Se sim, você quer fazer isso através de hardware ou software? Então vá com visão computacional e aprendizagem de máquinas (geralmente especializações dentro da ciência da computação), ou você pode querer fazer engenharia elétrica ou suas variações para hardware.

Você quer melhorar o RA em teoria? Vá com física, óptica ou campos relacionados.

Deseja usar o RA para resolver um problema em particular? Vá para a área que resolve o problema e obtenha suas habilidades de desenvolvimento do RA ao lado.

Um grau não é o objetivo, mas a ferramenta que você usa para fazer o que você realmente quer. Uma abordagem melhor seria olhar as empresas de RA que trabalham em diferentes áreas, encontrar uma que você gosta, e então ver quais são os requisitos para a posição de sua preferência, e fazer o seu diploma em qualquer que melhor corresponda a esses requisitos. Você raramente encontrará uma graduação perfeita, especialmente em uma área que está mudando tão rápido que quando você se formar as coisas serão significativamente diferentes.

Espere que isso ajude e boa sorte!