Quais são alguns exemplos de modelos bilineares?

Aqui está um exemplo:

PCA é um modelo linear no sentido em que utiliza um único vector [matemática]\mathbf{z}[/math] para reconstruir um vector observado de maior dimensão [matemática]\mathbf{x}[/math]. O vetor reconstruído é [matemática]\mathbf{x}=M z}[/math]. Você pode pensar em PCA como usando uma combinação ponderada de vetores base onde os pesos são os componentes do vetor [matemática]z_i[/math] e os vetores base [matemática]\mathbf{m_i}[/math] são as colunas de [matemática]\mathbf{M}[/math]. A reconstrução é então [matemática]{mathbf{\i}[/mathbf{m_i}z_i[/math]

Um modelo bilinear usa dois conjuntos de pesos para fazer a reconstrução. Então você teria dois conjuntos de escalares [matemática]z_i[/math] e [matemática]y_j[/math] que possivelmente têm um número diferente de dimensões cada um e um conjunto maior de vetores base [matemática]\mathbf{m_{i,j}}[/math] e a reconstrução é a soma ponderada [matemática]\mathbf{x}==sum_{i,j} \mathbf{m_{i,j}}z_i y_j[/math]. Isto é chamado de modelo bilinear porque somar sobre [matemática]i[/math] ou [matemática]j[/math] resulta num modelo linear simples semelhante ao PCA.

Existe provavelmente uma maneira de representar o modelo bilinear usando tensores e um produto de matriz tridimensional com dois vetores [matemática]\mathbf{z}[/math] e [matemática]\mathbf{y}[/math], mas isto está além de mim.

Enquanto o PCA é um problema restrito e a solução ótima pode ser encontrada usando uma decomposição própria ou SVD, o modelo bilinear está sob restrição. Portanto, algumas restrições devem ser impostas para resolver o problema de estimação de parâmetros. No trabalho acima os autores usam diferentes distribuições prévias em [matemática]\mathbf{z}[/math] e [matemática]\mathbf{y}[/math] e usam a probabilidade de log como sua função objetiva que tentam maximizar via descida de gradiente.