O AV1 é um codec de vídeo melhor do que o HEVC?

Se quiser implementar um já existente:
1- Entenda o básico de multimídia: espaços de cor, subamostragem de croma, resolução, bitrate (constante, variável e média), quantização, codecs famosos e seus
2- Entenda o básico de processamento de sinais: Transformada de Fourier, Transformada Discreta de Fourier etc...
3- Compreender algoritmos de compressão com e sem perdas, tais como Codificação Huffman, Codificação Aritmética e assim por diante.
4- Começar com algoritmos simples de codificação/descodificação de imagens, tais como JPEG. Isto irá familiarizá-lo com muitos destes conceitos.
5- Pegue um codec de vídeo como H264: entenda os algoritmos usados, perfis suportados e o pipeline principal. Leia muito sobre isso, aqui você encontrará muitos recursos sobre H264/H265 CMPT820 Reading List. Comece a desenhar os blocos principais e como reutilizar alguns dos seus códigos a partir do ponto 4 para implementar H264.

Neste ponto, você vai descobrir que implementar um codec não é uma tarefa simples. A resolução suportada do seu codec será pequena, você receberá muitos erros de memória (como o erro "sem memória") e será lenta! Você vai precisar de muita otimização de memória/processamento e threading para escrever um codec "eficiente". Além disso, você pode querer dar uma olhada em alguns projetos de código aberto como FFmpeg e Multimedia Open Source Project

Se você quiser "inventar" um novo:
1- Repita os passos de 1 a 5.
2- Leia muito sobre os novos codecs, seus prós e contras.
3- O passo difícil: Invente um, que trata dos problemas dos novos codecs e os supera.
4- Compare o seu codec com os codecs de última geração.
5- Publique um artigo com o seu novo codec (se's melhor).

É importante saber que desenhar um codec não é apenas teórico, mas também inclui muitas questões de engenharia e práticas. Além disso, ele é conduzido por comitês de normas, o que torna o problema ainda mais difícil.