Porque é que o meu teclado está a pressionar o insert sem eu o pressionar?

Possivelmente o teclado está quebrado.

Mas eu tenho perguntas.

O que acontece quando você desconecta o teclado? As "inserções" deixam de acontecer? Se sim, elas provavelmente vêm do teclado. Pode ser possível usar o computador sem teclado, exibindo um soft-keyboard na tela e clicando nas teclas com um mouse.

Você tem ou pode emprestar outro teclado? Isso corrige-o?

Se ligar o teclado a um computador diferente, o novo teclado recebe eventos de Inserção?

Se for o teclado que pode tentar limpar, ou substituir a tecla de Inserção, ou simplesmente obter um novo teclado.

Se não conseguir substituir ou reparar o teclado, pode pedir emprestado outro tempo suficiente para configurar o seu sistema operativo para ignorar a tecla de Inserção? É algo que você realmente usa?

Mas você perguntou "por quê". Pode haver algo como um tijolo a segurar a tecla Insert. Pode haver sujidade no teclado fazendo com que a tecla Insert seja lida como se estivesse premida. Poderia haver um problema de software ou hardware com o microprocessador do teclado que faz com que ele gere eventos de Inserção. Pode haver um bug de software ou hardware no sistema operacional que faz com que o sistema operacional gere eventos de Inserção espúrios mesmo quando eles não estão vindo do teclado.

Você tem que pensar em possíveis causas e fazer experimentos para confirmá-las ou excluí-las.