Existe algum tipo de teste analógico à linha vertical para coordenadas polares?

Não, a menos que você restrinja seu domínio a [0,2pi) e seu intervalo a números positivos.

Se você fizer isso, ao invés de linhas verticais, desenhe raios a partir da origem em todos os ângulos. Se algum desses raios intersectar o gráfico mais de uma vez, então o gráfico polar não é uma função, porque para um determinado valor de theta existem múltiplos valores de r.

A razão pela qual isto não funciona para um domínio estendido é que você pode ter ângulos coterminais que são entradas tecnicamente diferentes e podem criar saídas diferentes, fazendo com que este teste falhe, embora seja uma função.

A razão pela qual não se podem ter valores negativos de r é que estes podem interferir com ângulos como pi e 3pi, onde os valores negativos de r num ângulo aparecerão nos raios pi radiantes à distância.

Edit:
A razão pela qual o teste da linha vertical funciona é porque todas essas linhas verticais tomam a forma x=__, no caso do teste polar, os raios tomam todos a forma theta=___

Na medida em que uma relação pode ser uma função em coordenadas polares e não em coordenadas rectangulares; enquanto duas relações podem traçar a mesma localização num plano cartesiano, isso não significa que as relações sejam as mesmas. Uma pode ser uma função enquanto a outra é't.