Onde os ícones são armazenados no WordPress?

A que ícones você está se referindo?
Se você está falando do seu favicon, você pode salvá-lo diretamente na pasta raiz do seu site. Se esse ficheiro tiver a extensão .ico, então o navegador web mostrá-lo-á automaticamente no separador junto ao título da página actual.

Se os ícones/imagens estiverem relacionados de alguma forma com os temas actuais devido ao seu estilo ou cor, então é melhor guardar esses "ícones" dentro da subpasta "imagens" do seu tema (por exemplo, wp-content/themes/wp2020/images). Assumindo que "wp2020" é o nome da subpasta que contém todos os ficheiros do seu tema.

Ainda outros gráficos não relacionados com um determinado tema devem ser guardados na sua biblioteca multimédia WP. Dessa forma esses gráficos ainda serão utilizados mesmo que você mude para um tema diferente.

Apenas caso você esteja se referindo ao ícone do avatar que aparece ao lado de um nome na seção de comentários, esses vêm de "gravatar.com". Você cria um avatar e o vincula ao seu endereço de e-mail a partir da sua conta "gravatar.com". Então, sempre que você deixa comentários em qualquer blog usando o endereço de e-mail correspondente à sua conta gravatar, seu avatar é então exibido ao lado do seu nome na seção de comentários aprovados.

Deixe-me saber se eu cubro todas as bases relacionadas à sua pergunta.