Do ponto de vista da segurança, existe alguma diferença entre abrir uma nova janela versus um novo separador no navegador Google Chrome?

Não; cada separador (quer seja um separador na mesma janela ou um separador numa janela separada) é um processo separado e em caixa de areia por defeito - de facto, cada instância de um website que visita é um processo separado. Você pode ler mais sobre sandboxing no Chrome em Sandbox - The Chromium Projects e mais sobre modelos de processos em Process Models - The Chromium Projects. Eu especificamente recomendo que você leia a página de modelos de processos para entender melhor, mas aqui estão algumas notas se você não't queira seguir o link:

O que é um processo sandbox?

O sandbox é uma biblioteca em C++ que permite a criação de processos sandboxed - processos que executam dentro de um ambiente muito restritivo. Os únicos recursos que os processos sandboxed podem utilizar livremente são os ciclos de CPU e a memória. Por exemplo, os processos sandboxes não podem gravar em disco ou exibir suas próprias janelas. O que eles podem fazer exatamente é controlado por uma política explícita. Os renderizadores Chromium são processos sandbox.

Comportamento padrão do processo de renderizador

Por padrão, o Chromium cria um processo de renderizador para cada instância de um site que o usuário visita. Isso garante que páginas de diferentes sites sejam renderizadas independentemente, e que visitas separadas ao mesmo site também sejam isoladas umas das outras.