Mostra la font per a Descomposició en valors singulars

[[Fitxer:Singular value decomposition.gif|miniatura|Visualització de la DVS d'una matriu ''M'' de distorsió bidimensional real. Primer, veiem el [[disc unitat]] (en blau) amb els dos [[base canònica|vectors canònics unitaris]]. Després veiem l'acció de ''M'', que distorsiona el disc en una [[el·lipse]]. La DVS descompon ''M'' en tres transformacions simples: una [[Matriu de rotació|rotació]] ''V''<sup>*</sup>, una [[homotècia]] &Sigma; al llarg dels eixos coordenats rotats, i una segona rotació ''U''. Les longituds &sigma;<sub>1</sub> i &sigma;<sub>2</sub> dels semieixos de l'el·lipse són els [[Valor singular|valors singulars]] de ''M''.]]

En [[àlgebra lineal]], la '''descomposició en valors singulars''' ('''DVS''') és una [[descomposició de matrius]] d'una [[Matriu (matemàtiques)|matriu]] [[Nombre real|real]] o [[Nombre complex|complexa]], amb gran nombre d'aplicacions en el [[processament de senyals]] i l'[[estadística]].

Formalment, la descomposició en valors singulars d'una matriu ''M'' real o complexa de dimensió ''m×n'' és una factorització de la forma
: <math>\mathbf{M} = \mathbf{U} \boldsymbol{\Sigma} \mathbf{V}^*</math>

on ''U'' és una [[matriu unitària]] de dimensió ''m×m'' real o complexa, Σ és una [[matriu diagonal]] rectangular de dimensió ''m×n'' amb entrades reals no-negatives a la diagonal, i ''V*'' (la [[matriu transposada conjugada]] de ''V'') és una matriu unitària real o complexa de dimensió ''n×n''. Les entrades de la diagonal Σ<sub>''i'',''i''</sub> de Σ són conegudes com els '''[[Valor singular|valors singulars]]''' de ''M''. Les ''m'' columnes de ''U'' i les ''n'' columnes de ''V'' s'anomenen '''vectors singulars per l'esquerra''' i '''vectors singulars per la dreta''' de ''M'', respectivament.

La descomposició en valors singulars i la [[Teorema espectral|descomposició espectral]] estan íntimament lligades. De fet:
:* Els vectors singulars per l'esquerra de ''M'' són [[Valor propi, vector propi i espai propi|vectors propis]] de ''MM*''.
:* Els vectors singulars per la dreta de ''M'' són vectors propis de ''M*M''.
:* Els valors singulars no-nuls de ''M'' (que hom troba a les entrades de la diagonal de ''Σ'') són les arrels quadrades dels [[Valor propi, vector propi i espai propi|valors propis]] tant de ''M*M'' com de ''MM*''.

Algunes aplicacions de la DVS són el càlcul de la [[pseudoinversa]] d'una matriu, l'ajust de dades pel [[mètode dels mínims quadrats]], aproximacions de matrius, i la determinació del [[Rang d'una matriu|rang]], la imatge i el [[Nucli (matemàtiques)|nucli]] d'una matriu.

{{TOClimit|2}}

== Enunciat del teorema ==
Suposem que ''M'' és una [[Matriu (matemàtiques)|matriu]] de dimensió ''m×n'' a entrades en un [[Cos (matemàtiques)|cos]] ''K'', que pot ser el cos dels [[Nombre real|reals]] o el dels [[Nombre complex|complexos]]. Aleshores existeix una factorització de la forma
: <math>\mathbf{M} = \mathbf{U} \boldsymbol{\Sigma} \mathbf{V}^*</math>

on ''U'' és una [[matriu unitària]] de dimensió ''m×m'' sobre ''K'', la matriu Σ és una [[matriu diagonal]] de dimensió ''m×n'' amb valors reals no-negatius a la diagonal, i la matriu unitària ''V*'' de dimensió ''n×n'' denota la [[matriu transposada conjugada]] de la matriu unitària ''V'' de dimensió ''n×n''. Una tal factorització s'anomena una descomposició en valors singulars de ''M''.

Les entrades <math>\sigma_i</math> de la diagonal de Σ es coneixen com els '''[[Valor singular|valors singulars]]''' d{{'}}''M''. Per convenció, hom acostuma a escriure la llista de valors singulars en ordre descendent. En aquest cas, la matriu diagonal Σ està unívocament determinada per ''M'' (però no ho estan les matrius ''U'' ni ''V'').

== Interpretacions intuïtives ==

=== Rotació, homotècia, rotació ===
En el cas especial (però comú) en què M és una [[matriu quadrada]] de dimensió ''m×m'' amb [[Determinant (matemàtiques)|determinant]] positiu, i a entrades [[Nombre real|reals]], aleshores U, V*, i Σ són també matrius ''m×m'' a entrades reals, Σ pot ser vista com una [[homotècia]], i U i V* poden ser vistes com a [[Matriu de rotació|matrius de rotació]].

Si es donen aquestes condicions, l'expressió <math>\mathbf{U} \boldsymbol{\Sigma} \mathbf{V}^* \,</math> pot ser interpretada com una [[Composició funcional|composició]] (o [[Successió (matemàtiques)|successió]]) de tres [[Transformada|transformades]] geomètriques: una [[Rotació (matemàtiques)|rotació]], una [[homotècia]] i una altra rotació. Per exemple, la figura superior explica com es pot descriure una matriu de distorsió en termes d'aquesta composició de funcions.

=== Valors singulars com a semieixos d'una el·lipse o d'un el·lipsoide ===
Com es mostra en la figura, els [[Valor singular|valors singulars]] poden ser interpretats com els semieixos d'una [[el·lipse]] en dues dimensions. Aquest concepte es pot generalitzar a l'[[espai euclidià]] ''n''-dimensional, on els valors singulars d'una [[matriu quadrada]] ''n×n'' arbitrària es poden interpretar com els semieixos d'un [[el·lipsoide]] ''n''-dimensional. Vegeu [[#Significat geomètric|més avall]] per més detalls.

=== Les columnes de ''U'' i ''V'' són bases ortonormals ===
Com que ''U'' i ''V*'' són unitàries, les columnes de cadascuna d'elles formen un conjunt de [[Ortonormal|vectors ortonormals]], que poden interpretar-se com a vectors d'una [[Base (àlgebra)|base]]. Per la definició de matriu unitària, el mateix aplica per les seves transposades conjugades ''U*'' i ''V''. En altres paraules, ''U'', ''U*'', ''V'' i ''V*'' són [[Base ortonormal|bases ortonormals]].

== Exemple ==
Considerem la matriu 4×5

:<math>\mathbf{M} = \begin{bmatrix}
                      1 & 0 & 0 & 0 & 2 \\
                      0 & 0 & 3 & 0 & 0 \\
                      0 & 0 & 0 & 0 & 0 \\
                      0 & 4 & 0 & 0 & 0
                    \end{bmatrix}
</math>

Una descomposició en valors singulars d'aquesta matriu és <math>\mathbf{U} \boldsymbol{\Sigma} \mathbf{V}^*</math>

:<math>\begin{align}
\mathbf{U} &= \begin{bmatrix}
               0 & 0 & 1 &  0 \\
               0 & 1 & 0 &  0 \\
               0 & 0 & 0 & -1 \\
               1 & 0 & 0 & 0
             \end{bmatrix} \\

\boldsymbol{\Sigma} &= \begin{bmatrix}
                        4 & 0 &        0 & 0 & 0 \\
                        0 & 3 &        0 & 0 & 0 \\
                        0 & 0 & \sqrt{5} & 0 & 0 \\
                        0 & 0 &        0 & 0 & 0
                      \end{bmatrix} \\

\mathbf{V}^* &= \begin{bmatrix}
                           0 & 1 & 0 & 0 &          0 \\
                           0 & 0 & 1 & 0 &          0 \\
                  \sqrt{0.2} & 0 & 0 & 0 & \sqrt{0.8} \\
                           0 & 0 & 0 & 1 &          0 \\
                 -\sqrt{0.8} & 0 & 0 & 0 & \sqrt{0.2}
               \end{bmatrix}
\end{align}</math>

Notem que <math>\boldsymbol{\Sigma}</math> és nul·la fora de la diagonal, i que un element de la diagonal és zero. A més, com que les matrius <math>\mathbf{U}</math> i <math>\mathbf{V}^*</math> són [[Matriu unitària|unitàries]], si les multipliquem per les seves transposades conjugades obtenim la [[matriu identitat]], com es veu més avall. En aquest cas, com que <math>\mathbf{U}</math> i <math>\mathbf{V}^*</math> són a entrades reals, totes dues són [[Matriu ortogonal|matrius ortogonals]].

:<math>\begin{align}
  \mathbf{U} \mathbf{U}^* &=
  \begin{bmatrix}
    0 & 0 & 1 &  0 \\
    0 & 1 & 0 &  0 \\
    0 & 0 & 0 & -1 \\
    1 & 0 & 0 &  0
  \end{bmatrix} \cdot

  \begin{bmatrix}
    0 & 0 &  0 & 1 \\
    0 & 1 &  0 & 0 \\
    1 & 0 &  0 & 0 \\
    0 & 0 & -1 & 0
  \end{bmatrix} \\

  &= 
  \begin{bmatrix}
    1 & 0 & 0 & 0 \\
    0 & 1 & 0 & 0 \\
    0 & 0 & 1 & 0 \\
    0 & 0 & 0 & 1
  \end{bmatrix} \equiv

  \mathbf{I}_4
\end{align}</math>

i

:<math>\begin{align}
  \mathbf{V} \mathbf{V}^* &=
  \begin{bmatrix}
    0 & 0 & \sqrt{0.2} & 0 & -\sqrt{0.8} \\
    1 & 0 &          0 & 0 &           0 \\
    0 & 1 &          0 & 0 &           0 \\
    0 & 0 &          0 & 1 &           0 \\
    0 & 0 & \sqrt{0.8} & 0 &  \sqrt{0.2}
  \end{bmatrix} \cdot

  \begin{bmatrix}
              0 & 1 & 0 & 0 &          0 \\
              0 & 0 & 1 & 0 &          0 \\
     \sqrt{0.2} & 0 & 0 & 0 & \sqrt{0.8} \\
              0 & 0 & 0 & 1 &          0 \\
    -\sqrt{0.8} & 0 & 0 & 0 & \sqrt{0.2}
  \end{bmatrix} \\

  &=
  \begin{bmatrix}
    1 & 0 & 0 & 0 & 0 \\
    0 & 1 & 0 & 0 & 0 \\
    0 & 0 & 1 & 0 & 0 \\
    0 & 0 & 0 & 1 & 0 \\
    0 & 0 & 0 & 0 & 1
  \end{bmatrix} \equiv

  \mathbf{I}_5
\end{align}</math>

En aquest cas concret, aquesta descomposició en valors singulars no és única. Si escollim <math>V</math> tal que
:<math>\mathbf{V}^* = \begin{bmatrix}
                         0          & 1 & 0 &          0 &           0 \\
                         0          & 0 & 1 &          0 &           0 \\
                         \sqrt{0.2} & 0 & 0 &          0 &  \sqrt{0.8} \\
                         \sqrt{0.4} & 0 & 0 & \sqrt{0.5} & -\sqrt{0.1} \\
                        -\sqrt{0.4} & 0 & 0 & \sqrt{0.5} &  \sqrt{0.1}
                      \end{bmatrix}
</math>

també obtenim una descomposició en valors singulars vàlida.

== Valors singulars, vectors singulars, i la seva relació amb la DVS ==
Un nombre real no-negatiu σ és un '''[[valor singular]]''' de ''M'' [[si i només si]] existeixen vectors unitaris ''u'' de ''K''<sup>''m''</sup> i ''v'' de ''K''<sup>''n''</sup> tals que 
:<math>\mathbf{M}\vec{v} = \sigma \vec{u} \,\text{ i } \mathbf{M}^*\vec{u} = \sigma \vec{v}</math>

Els vectors ''u'' i ''v'' s'anomenen '''vector singular per l'esquerra''' i '''vector singular per la dreta''' de σ, respectivament.

En qualsevol descomposició en valors singulars
:<math>\mathbf{M} = \mathbf{U} \boldsymbol{\Sigma} \mathbf{V}^*</math>

les entrades de la diagonal de Σ són iguals als valors singulars de ''M''. Les columnes de ''U'' i ''V'' són, respectivament, vectors singulars per l'esquerra i per la dreta pels corresponents valors singulars. En conseqüència, el teorema implica que:
* Una matriu ''M'' de dimensió ''m'' × ''n'' té, com a molt, ''p''&nbsp;= min(''m'',''n'') valors singulars diferents.
* Sempre és possible trobar una base [[ortogonal]] ''U'' de ''K''<sup>''m''</sup> formada per vectors singulars per l'esquerra de ''M''.
* Sempre és possible trobar una base ortogonal ''V'' de ''K''<sup>''n''</sup> formada per vectors singulars per la dreta de ''M''.

Un valor singular pel qual podem trobar dos vectors singulars per l'esquerra (o per la dreta) que siguin linealment independents s'anomena ''degenerat''.

Els valors singulars no-degenerats sempre tenen vectors singulars per l'esquerra i per la dreta únics, llevat de multiplicació per un factor de mòdul unitari ''e''<sup>'''i'''φ</sup> (en el cas real, llevat de signe). En conseqüència, si tots els valors singulars de ''M'' són no-degenerats i no-nuls, llavors la seva descomposició en valors singulars és única, llevat de multiplicar una columna de ''U'' per un factor de mòdul unitari i alhora multiplicar la corresponent columna de ''V'' pel mateix factor de mòdul unitari.

Els valors singulars degenerats, per definició, tenen vectors singulars no-únics. És més, si ''u''<sub>1</sub> i ''u''<sub>2</sub> són dos vectors singulars per l'esquerra corresponents al valor singular σ, llavors qualsevol combinació lineal normalitzada és també un vector singular per l'esquerra corresponent al valor singular σ. El mateix és vàlid per vectors singulars per la dreta. En conseqüència, si ''M'' té valors singulars degenerats, llavors la seva descomposició en valors singulars no és única.

== Aplicacions de la DVS ==

=== Pseudoinversa ===
Hom pot emprar la descomposició en valors singulars per calcular la [[pseudoinversa]] d'una matriu. En efecte, la pseudoinversa de la matriu ''M'' amb descomposició en valors singulars <math>\mathbf{M} = \mathbf{U} \boldsymbol{\Sigma} \mathbf{V}^*</math> és
:<math>\mathbf{M}^+ = \mathbf{V} \boldsymbol{\Sigma}^+ \mathbf{U}^*</math>

on Σ<sup>+</sup> és la pseudoinversa de Σ, formada tot substituint els elements no-nuls de la diagonal pels seus respectius [[Invers multiplicatiu|recíprocs]] i transposant la matriu resultant. La pseudoinversa és una forma de resoldre problemes de [[mínims quadrats ordinaris]].

=== Resolució d'equacions lineals homogènies ===
Podem escriure un [[Sistema d'equacions lineals#Sistemes homogenis|sistema d'equacions lineals homogènies]] com a <math>\mathbf{A} \vec{x} = \mathbf{0}</math> per una matriu <math>\mathbf{A}</math> i un vector <math>\vec{x}</math>. Una situació típica és que <math>\mathbf{A}</math> és coneguda, i hem de determinar <math>\vec{x}</math> no-nul que satisfaci l'equació. Un tal <math>\vec{x}</math> pertany al [[Nucli (matemàtiques)|nucli]] de <math>\mathbf{A}</math> i de vegades s'anomena un vector nul (per la dreta) de <math>\mathbf{A}</math>. El vector <math>\vec{x}</math> pot caracteritzar-se com un vector singular per la dreta corresponent a un valor singular de <math>\mathbf{A}</math> que és zero. Aquesta observació significa que si <math>\mathbf{A}</math> és una [[matriu quadrada]] i no té cap valor singular nul, llavors l'equació no té solució <math>\vec{x}</math> no-nul·la. També vol dir que si hi ha diversos valors singulars nuls, llavors qualsevol combinació lineal dels corresponents vectors singulars per la dreta n'és una solució vàlida. De forma anàloga a la definició de vector nul (per la dreta), un vector no-nul <math>\vec{x}</math> que satisfaci <math>\vec{x^*} \mathbf{A} = \mathbf{0}</math>, on <math>\vec{x^*}</math> denota el transposat conjugat de <math>\vec{x}</math>, s'anomena vector nul per l'esquerra de <math>\mathbf{A}</math>.

=== Minimització de mínims quadrats totals ===
Un problema de [[mínims quadrats totals]] es refereix a determinar el vector <math> \mathbf{x} </math> que minimitza la [[Norma (matemàtiques)#p-norma|2-norma]] d'un vector <math> \mathbf{A} \, \mathbf{x} </math> amb la restricció <math> \| \mathbf{x} \| = 1</math>. La solució resulta ser el vector singular per la dreta de <math> \mathbf{A} </math> corresponent al valor singular més petit.

=== Imatge, nucli i rang ===
Una altra aplicació de la DVS és que proveeix d'una representació explícita de la imatge i el [[Nucli (matemàtiques)|nucli]] d'una matriu ''M''. Els vectors singulars per la dreta corresponents a valors singulars nuls de ''M'' generen el nucli de ''M''. Per exemple, les últimes dues columnes de <math>\mathbf{V}</math> generen el nucli en l'exemple anterior. Els vectors singulars per l'esquerra corresponents als valors singulars no-nuls de ''M'' generen la imatge de ''M''. Com a conseqüència, el [[Rang d'una matriu|rang]] de ''M'' és igual al nombre de valors singulars no-nuls, la qual cosa equival al nombre d'elements no-nuls de la diagonal de <math>\boldsymbol{\Sigma}</math>.

En àlgebra lineal numèrica, els valors singulars poden emprar-se per determinar el ''rang efectiu'' d'una matriu, atès que els [[Error d'arrodoniment|errors d'arrodoniment]] poden portar a valors singulars no-nuls però molt petits en una matriu mal condicionada.

=== Aproximació per matrius de rang baix ===
Algunes aplicacions pràctiques necessiten resoldre el problema d'aproximar una matriu <math>\mathbf{M}</math> amb una altra matriu <math>\tilde{\mathbf{M}}</math>, anomenada [[#DVS truncada|truncada]], que tingui un rang específic <math>r</math>. En el cas que l'aproximació es basi en minimitzar la [[norma de Frobenius]] de la diferència entre <math>\mathbf{M}</math> i <math>\tilde{\mathbf{M}}</math> amb la restricció que <math>\operatorname{rang}\left(\tilde{\mathbf{M}}\right) = r</math>, resulta que la solució ve donada per la DVS de <math>\mathbf{M}</math>, és a dir
:<math>\tilde{\mathbf{M}} = \mathbf{U} \tilde{\boldsymbol{\Sigma}} \mathbf{V}^*</math>

on <math>\tilde{\boldsymbol{\Sigma}}</math> és la mateixa matriu que <math>\boldsymbol{\Sigma}</math>, excepte que conté només els <math>r</math> valors singulars més grans (els altres valors singulars se substitueixen per zero). Això es coneix com el '''Teorema d'Eckart-Young''', atès que va ser demostrat per aquests dos autors en 1936 (encara que més tard es va descobrir que el resultat era conegut per autors anteriors; vegeu {{harvnb|Stewart|1993}}).

=== Models separables ===
Hom pot interpretar la DVS com descompondre una matriu en una suma ordenada i amb pesos de matrius separables. Per ''separable'', volem dir que una matriu <math>\mathbf{A}</math> pot escriure's com a [[producte exterior]] de dos vectors <math>\mathbf{A} = \mathbf{u} \otimes \mathbf{v}</math>, o, en coordenades, <math>\mathbf{A(i, j)} = \mathbf{u}(i) \mathbf{v}(j)</math>. De forma específica, es pot descompondre la matriu M com:
:<math>\mathbf{M} = \sum_i \mathbf{A}_i = \sum_i \sigma_i U_i \otimes V_i^\dagger</math>

Aquí, <math>U_i</math> i <math>V_i</math> són les columnes ''i''-simes de les corresponents matrius de la DVS, <math>\sigma_i</math> són els valors singulars ordenats, i cada <math>\mathbf{A}_i</math> és separable. La DVS es pot emprar per trobar la descomposició d'un filtre de processament d'imatges en filtres separables horitzontals i verticals. Notem que el nombre de <math>\sigma_i</math> no-nuls és exactament el rang de la matriu.

Els models separables apareixen amb freqüència en sistemes biològics, i la descomposició DVS és útil per analitzar-los. Per exemple, es poden descriure els camps receptius d'una àrea visual V1<ref>{{ref-publicació|cognom=DeAngelis|nom=Gregory C.|títol=Receptive-field dynamics in the central visual pathways|publicació=Trends in Neurosciences|data=1 octubre 1995|pàgines=451–458|volum=18|exemplar=10|doi=10.1016/0166-2236(95)94496-R|pmid=8545912|url= http://linkinghub.elsevier.com/retrieve/pii/0166-2236(95)94496-R|coautors=Ohzawa, Izumi; Freeman, Ralph D.|any=1995|mes=octubre|ref=harv}}</ref> mitjançant un [[filtre de Gabor]] en el domini espacial multiplicat per una funció de modulació en el domini temporal. Llavors, donat un filtre lineal avaluat a través de, per exemple, una correlació inversa, es poden reconfigurar les dues dimensions espacials en una sola dimensió, obtenint per tant un filtre bidimensional (espai, temps) que es pot descompondre mitjançant DVS. La primera columna d'U en la descomposició DVS és Gabor mentre que la primera columna de V representa la modulació de temps (o viceversa). Hom pot definir llavors un índex de separabilitat, <math>\alpha = \frac{1}{\sum_i \sigma_i^2}\sigma_1^2</math>, que és la fracció de la potència de la matriu M assolida per la primera matriu separable de la descomposició.<ref>{{ref-publicació|cognom=Depireux|nom=DA|títol=Spectro-temporal response field characterization with dynamic ripples in ferret primary auditory cortex.|publicació=Journal of neurophysiology|data=2001 Mar|pàgines=1220-34|volum=85|exemplar=3|pmid=11247991|url= http://jn.physiology.org/cgi/pmidlookup?view=long&pmid=11247991|coautors=Simon, JZ; Klein, DJ; Shamma, SA|any=2001|mes=març|ref=harv}}</ref>

=== Matriu ortogonal més propera ===
És possible usar la DVS de <math>\mathbf{A}</math> per determinar la [[matriu ortogonal]] <math>\mathbf{R}</math> més propera a <math>\mathbf{A}</math>. La proximitat de l'ajust es mesura per la [[norma de Frobenius]] de <math>\mathbf{R} - \mathbf{A}</math>. La solució és el producte <math>\mathbf{U} \mathbf{V}^*</math>.<ref>[http://www.wou.edu/~beavers/Talks/Willamette1106.pdf The Singular Value Decomposition in Symmetric (Lowdin) Orthogonalization and Data Compression]</ref> Això té sentit des d'un punt de vista intuïtiu, perquè una matriu ortogonal tindria una descomposició <math>\mathbf{U} \mathbf{I} \mathbf{V}^*</math> on <math>\mathbf{I}</math> és la matriu identitat, de tal manera que si <math>\mathbf{A} = \mathbf{U} \boldsymbol{\Sigma} \mathbf{V}^*</math> llavors el producte <math>\mathbf{A} = \mathbf{U} \mathbf{V}^*</math> ve a ser el mateix que substituir els valors singulars per uns.

Un problema similar, amb aplicacions interessants en l'[[anàlisi de formes geomètriques]], és el [[problema de Procuste ortogonal]], que consisteix en trobar una matriu ortogonal <math>\mathbf{R}</math> que millor apliqui <math>\mathbf{A}</math> en <math>\mathbf{B}</math>. Més específicament,

:<math>\mathbf{R} = \arg\min_\boldsymbol{\Omega} \|\mathbf{A}\boldsymbol{\Omega} - \mathbf{B}\|_F \quad\mathrm{restringit\ a}\quad \boldsymbol{\Omega}^T\boldsymbol{\Omega} = \mathbf{I}</math>

on <math>\| \cdot \|_F</math> denota la norma de Frobenius.

Aquest problema és equivalent a trobar la matriu ortogonal més propera a una matriu donada <math>\mathbf{M} = \mathbf{A}^{T}\mathbf{B}</math>.

=== Algorisme de Kabsch ===
L'[[algorisme de Kabsch]] (conegut en altres contextos com a [[problema de Wahba]]) usa la DVS per calcular la rotació òptima (amb relació a la minimització per mínims quadrats) que alineï un conjunt de punts amb un altre conjunt de punts. S'usa, entre altres aplicacions, per comparar les estructures de les molècules.

== Relació amb la descomposició en valors propis ==
La descomposició en valors singulars és molt general, en el sentit que es pot aplicar a qualsevol matriu ''m'' × ''n'', mentre que la [[Teorema espectral|descomposició espectral]] només pot aplicar-se a certs tipus de matrius quadrades. Tot i això, les dues descomposicions estan relacionades.

Donada una DVS de ''M'', segons s'ha descrit més amunt, es compleixen les següents relacions:

:<math>\begin{align}
  \mathbf{M}^* \mathbf{M} &= \mathbf{V} \boldsymbol{\Sigma^*} \mathbf{U}^*\, \mathbf{U} \boldsymbol{\Sigma} \mathbf{V}^* = \mathbf{V} (\boldsymbol{\Sigma}^* \boldsymbol{\Sigma}) \mathbf{V}^* \\
  \mathbf{M} \mathbf{M}^* &= \mathbf{U} \boldsymbol{\Sigma} \mathbf{V}^*\, \mathbf{V} \boldsymbol{\Sigma}^* \mathbf{U}^* = \mathbf{U} (\boldsymbol{\Sigma} \boldsymbol{\Sigma}^*) \mathbf{U}^*
\end{align}</math>

El segon membre d'aquestes relacions descriuen les descomposicions en valors propis del primer membre. En conseqüència:

:* Les columnes de ''V'' (vectors singulars per la dreta) són [[Valor propi, vector propi i espai propi|vectors propis]] de <math>\mathbf{M}^*\mathbf{M}</math>.
:* Les columnes de ''U'' (vectors singulars per l'esquerra) són vectors propis de <math>\mathbf{M}\mathbf{M}^*</math>.
:* Els elements no-nuls de ''Σ'' (valors singulars no-nuls) són les arrels quadrades dels [[Valor singular|valors singulars]] no-nuls de <math>\mathbf{M}^*\mathbf{M}</math> o <math>\mathbf{M}\mathbf{M}^*</math>.

En el cas especial que ''M'' és una [[matriu normal]], que per definició és quadrada, el [[teorema espectral]] diu que pot ser [[Matriu diagonalitzable|diagonalitzada]] de forma [[Transformació unitària|unitària]] usant una base de [[Valor propi, vector propi i espai propi|vectors propis]], de tal manera que es pot escriure com a <math>\mathbf{M} = \mathbf{U} \mathbf{D} \mathbf{U}^*</math> per alguna matriu unitària ''U'' i una matriu diagonal ''D''. Quan ''M'' és també [[Matriu definida positiva#Matrius definides negatives, semidefinides positives i indefinides|semidefinida positiva]], la descomposició <math>\mathbf{M} = \mathbf{U}\mathbf{D}\mathbf{U}^*</math> és també una descomposició en valors singulars.

Tot i això, la descomposició en valors propis i la descomposició en valors singulars difereixen per qualsevol altra matriu ''M'': la descomposició en valors propis és <math>\mathbf{M} = \mathbf{U}\mathbf{D}\mathbf{U}^{-1}</math> on ''U'' no és necessàriament unitària i ''D'' no és necessàriament semidefinida positiva, mentre que la DVS és <math>\mathbf{M} = \mathbf{U} \boldsymbol{\Sigma} \mathbf{V}^*</math> on ''Σ'' és una matriu diagonal semidefinida positiva, i ''U'' i ''V'' són matrius unitàries que no estan necessàriament relacionades excepte a través de la matriu ''M''.

== Existència ==
Un valor propi ''λ'' d'una matriu es caracteritza per la relació algebraica ''M u'' = ''λ u''. Quan ''M'' és [[Matriu hermítica|hermítica]], també tenim una caracterització variacional. Sigui ''M'' una [[matriu simètrica]] real de dimensió ''n'' × ''n''. Definim ''f'':ℝ<sup>''n''</sup> → ℝ per ''f''(''x'') = ''x<sup>T</sup> M x''. Pel [[teorema de Weierstrass]], aquesta funció contínua té un màxim en algun ''u'' quan està restringida a l'esfera unitat tancada <math> \{ \|x\|\le 1\}.</math>. Pel teorema dels [[multiplicadors de Lagrange]], necessàriament ''u'' satisfà

:<math>\nabla f = \nabla \vec{x}^T \mathbf{M} \vec{x} = \lambda \cdot \nabla \vec{x}^T \vec{x}</math>

on el símbol <math>\nabla</math> denota l'[[operador nabla]].

Un càlcul breu mostra que la relació anterior implica ''M u'' = ''λ u'' (aquí és necessària la simetria de ''M''). Per tant, ''λ'' és el valor propi més gran de ''M''. El mateix càlcul sobre el complement ortogonal de ''u'' ens dóna el següent valor propi més gran, i així successivament. El cas hermític complex és similar; en aquest cas, ''f''(''x'') = ''x* M x'' és una funció real de 2''n'' variables reals.

Els valors singulars són similars en el sentit que es poden descriure de forma algebraica o mitjançant principis variacionals. En canvi, al contrari que el cas de valors propis, no és necessari que ''M'' sigui hermítica o simètrica.

Aquesta secció dóna aquests dos arguments per l'existència de la descomposició en valors singulars.

=== Basada en el teorema espectral ===
Sigui ''M'' una matriu ''m'' per ''n'' a entrades complexes. ''M*M'' és semidefinida positiva i hermítica. Pel [[teorema espectral]], existeix una matriu unitària ''V'' de dimensió ''n'' per ''n'' tal que

:<math>\mathbf{V}^* \mathbf{M}^* \mathbf{M} \mathbf{V} = \begin{bmatrix} \mathbf{D} & 0 \\ 0 & 0\end{bmatrix}</math>

on ''D'' és diagonal i definida positiva. Fent una partició adequada de ''V'' podem escriure

:<math>\begin{bmatrix} \mathbf{V}_1^* \\ \mathbf{V}_2^* \end{bmatrix} \mathbf{M}^* \mathbf{M} \begin{bmatrix} \mathbf{V}_1 & \mathbf{V}_2 \end{bmatrix} =
  \begin{bmatrix} \mathbf{V}_1^* \mathbf{M}^* \mathbf{M} \mathbf{V}_1 & \mathbf{V}_1^* \mathbf{M}^* \mathbf{M} \mathbf{V}_2 \\ \mathbf{V}_2^* \mathbf{M}^* \mathbf{M} \mathbf{V}_1 & \mathbf{V}_2^* \mathbf{M}^* \mathbf{M} \mathbf{V}_2 \end{bmatrix} =
  \begin{bmatrix} \mathbf{D} & 0 \\ 0 & 0 \end{bmatrix}
</math>

Per tant ''V<sub>1</sub>*M*MV<sub>1</sub>'' = ''D'' i ''V<sub>2</sub>*M*MV<sub>2</sub>'' = ''0''. L'última igualtat implica que ''MV<sub>2</sub>'' = ''0''.

Addicionalment, com que ''V'' és unitària, ''V<sub>1</sub>*V<sub>1</sub>'' = ''I'', ''V<sub>2</sub>*V<sub>2</sub>'' = ''I'' i ''V<sub>1</sub>V<sub>1</sub>*'' + ''V<sub>2</sub>V<sub>2</sub>*'' = ''I''.

Definim

:<math>\mathbf{U}_1 = \mathbf{M} \mathbf{V}_1 \mathbf{D}^{-\frac{1}{2}}</math>

Aleshores

:<math>\mathbf{U}_1 \mathbf{D}^\frac{1}{2} \mathbf{V}_1^* = \mathbf{M} \mathbf{V}_1 \mathbf{D}^{-\frac{1}{2}} \mathbf{D}^\frac{1}{2} \mathbf{V}_1^* = \mathbf{M}</math>

Observem que aquest és gairebé el resultat desitjat, excepte que ''U''<sub>1</sub> i ''V''<sub>1</sub> no són unitàries en general, sinó [[Isometria|isometries]]. Per finalitzar l'argument, només hem d'"emplenar" aquestes matrius per fer-les unitàries. Per exemple, podem escollir ''U''<sub>2</sub> tal que

:<math>\mathbf{U} = \begin{bmatrix} \mathbf{U}_1 & \mathbf{U}_2 \end{bmatrix}</math>

sigui unitària.

Definim
:<math>\boldsymbol{\Sigma} =
  \begin{bmatrix}
    \begin{bmatrix}
      \mathbf{D}^\frac{1}{2} & 0 \\
      0                      & 0
    \end{bmatrix} \\
    0
  \end{bmatrix}
</math>
on afegim '''o suprimim''' files nul·les per fer que el nombre de files nul·les iguali el nombre de columnes de ''U''<sub>2</sub>. Llavors

:<math>
  \begin{bmatrix}
    \mathbf{U}_1 & \mathbf{U}_2
  \end{bmatrix}
  \begin{bmatrix}
    \begin{bmatrix}
      \mathbf{}D^\frac{1}{2} & 0 \\
      0                      & 0
    \end{bmatrix} \\
    0
  \end{bmatrix}
  \begin{bmatrix}
    \mathbf{V}_1 & \mathbf{V}_2
  \end{bmatrix}^* =
  \begin{bmatrix}
    \mathbf{U}_1 & \mathbf{U}_2
  \end{bmatrix}
  \begin{bmatrix}
    \mathbf{D}^\frac{1}{2} \mathbf{V}_1^* \\
    0
  \end{bmatrix} =
  \mathbf{U}_1 \mathbf{D}^\frac{1}{2} V_1^* =
  \mathbf{M}
</math>

que és el resultat desitjat:
:<math>\mathbf{M} = \mathbf{U} \boldsymbol{\Sigma} \mathbf{V}^*</math>

Notem que l'argument podria haver començat diagonalitzant ''MM*'' en comptes de ''M*M'' (Això mostra directament que ''MM*'' i ''M*M'' tenen els mateixos valors propis no-nuls).

=== Basada en caracterització variacional ===
Els valors singulars també es poden caracteritzar com els màxims de ''u''<sup>T</sup>''Mv'', considerada com una funció de ''u'' i ''v'', sobre subespais particulars. Els vectors singulars són els valors de ''u'' i ''v'' on s'arriba a aquests màxims.

Sigui ''M'' una matriu ''m'' × ''n'' a entrades reals. Siguin <math>S^{m-1}</math> i <math>S^{n-1}</math> els conjunts de vectors unitaris segons la 2-norma en ℝ<sup>''m''</sup> i ℝ<sup>''n''</sup> respectivament. Definim la funció

:<math>\sigma(\vec{u}, \vec{v}) = \vec{u}^{T} M \vec{v}</math>

per vectors ''u'' ∈ <math>S^{m - 1}</math> i ''v'' ∈ <math>S^{n - 1}</math>. Considerem la funció ''σ'' restringida a <math>S^{m - 1}</math> × <math>S^{n - 1}</math>. Com que tant <math>S^{m - 1}</math> com <math>S^{n - 1}</math> són [[Espai compacte|conjunts compactes]], el seu [[Topologia producte|producte]] també és compacte. Addicionalment, com que ''σ'' és contínua, té un màxim per almenys un parell de vectors ''u'' ∈ <math>S^{m - 1}</math> i ''v'' ∈ <math>S^{n - 1}</math>. Aquest valor màxim es denota per ''σ''<sub>1</sub> i els corresponents vectors es denoten per ''u''<sub>1</sub> i ''v''<sub>1</sub>. Com que <math>\sigma_{1}</math> és el valor més gran de <math>\sigma(u,v)</math> llavors ha de ser no-negatiu. Si fos negatiu, canviant el signe de ''u''<sub>1</sub> o de ''v''<sub>1</sub> faria que la funció fos positiva i per tant de valor més gran.

'''Proposició:''' ''u''<sub>1</sub>, ''v''<sub>1</sub> són vectors singulars per l'esquerra i per la dreta de ''M'' amb el seu corresponent valor singular ''σ''<sub>1</sub>.

'''Demostració:''' De forma similar al cas dels valors propis, per hipòtesi els dos vectors satisfan l'equació dels multiplicadors de Lagrange:

:<math>\nabla \sigma = \nabla \; \vec{u}^T \mathbf{M} \vec{v} - \lambda_1 \cdot \nabla \; \vec{u}^T \vec{u} - \lambda_2 \cdot \nabla \; \vec{v}^T \vec{v}</math>

Després de treballar amb aquesta expressió, obtenim

:<math>\mathbf{M} \vec{v}_{1} = 2 \lambda_{1} \vec{u}_{1} + 0</math>

i

:<math>\mathbf{M}^{T} \vec{u}_{1} = 0 + 2 \lambda_{2} \vec{v}_{1}</math>

Multiplicant per l'esquerra la primera equació per <math>\vec{u}_1^T</math> i la segona equació per <math>\vec{v}_1^T</math>, i recordant que ||''u''|| = ||''v''|| = 1 obtenim

:<math>\begin{align}
  \vec{u}_1^T \mathbf{M}   \vec{v}_1 &= \sigma_1 = 2 \lambda_1 \\
  \vec{v}_1^T \mathbf{M}^T \vec{u}_1 &= \sigma_1 = 2 \lambda_2
\end{align}</math>

Per tant ''σ''<sub>1</sub> = 2 ''λ''<sub>1</sub> = 2 ''λ''<sub>2</sub>. Per les propietats del funcional ''φ'' definit per

:<math>\phi(\vec{w}) = \vec{u}_1^T \vec{w}</math>

tenim

:<math>\mathbf{M} \vec{v}_1 = \sigma_1 \vec{u}_1</math>

De forma semblant,

:<math>\mathbf{M}^T \vec{u}_1 = \sigma_1 \vec{v}_1</math>

Això demostra la proposició.

Es poden trobar més vectors singulars i valors singulars tot maximitzant ''σ''(''u'', ''v'') sobre ''u'', ''v'' normalitzats que siguin ortogonals a ''u''<sub>1</sub> i ''v''<sub>1</sub>, respectivament.

El pas del cas real al complex és semblant al cas de valors propis.

== Significat geomètric ==
Com que ''U'' i ''V'' són unitàries, sabem que les columnes ''u''<sub>1</sub>, …, ''u<sub>m</sub>'' de ''U'' proporcionen una [[base ortonormal]] de ''K''<sup>''m''</sup> i les columnes ''v''<sub>1</sub>, …, ''v<sub>n</sub>''
de ''V'' proporcionen una base ortonormal de ''K''<sup>''n''</sup> (respecte als [[Producte escalar|productes escalars]] estàndard en aquests espais).

La [[transformació lineal]] ''T'' :''K''<sup>''n''</sup> → ''K''<sup>''m''</sup> que porta cada vector ''x'' a ''Mx'' té una descripció particularment simple respecte a aquestes bases ortonormals: tenim que ''T''(''v<sub>i</sub>'') = ''σ<sub>i</sub> u<sub>i</sub>'', per ''i'' = 1,...,mín(''m'',''n''), on ''σ<sub>i</sub>'' és la ''i''-sima entrada de la diagonal de Σ, i ''T''(''v''<sub>''i''</sub>) = 0 per ''i'' > mín(''m'',''n'').

El contingut geomètric del teorema DVS es pot resumir, per tant, de la següent forma: per cada aplicació lineal ''T'' :''K''<sup>''n''</sup> → ''K''<sup>''m''</sup> es poden trobar bases ortonormals de ''K''<sup>''n''</sup> i ''K''<sup>''m''</sup> tals que ''T'' envia l'<nowiki />''i''-sim vector base de ''K''<sup>''n''</sup> a un múltiple no-nul de l'<nowiki />''i''-sim vector base de ''K''<sup>''m''</sup>, i envia la resta de vectors de la base al vector nul.
Per tant, respecte a aquestes bases, l'aplicació ''T'' es representa per una matriu diagonal amb entrades reals no-negatives.

Per tenir una imatge més visual dels valors singulars i la descomposició en valors singulars —almenys quan treballem en espais vectorials reals— considerem l'esfera unitat ''S'' en ℝ<sup>''n''</sup>. L'aplicació lineal ''T'' envia aquesta esfera a un [[el·lipsoide]] en ℝ<sup>''m''</sup>. Els valors singulars no-nuls són simplement les longituds dels semieixos d'aquest el·lipsoide. Especialment, quan ''n''=''m'', i tots els valors singulars són diferents i no-nuls, la DVS de l'aplicació lineal es pot analitzar fàcilment com una composició de tres moviments consecutius: considerem l'el·lipsoide ''T''(''S'') i específicament els seus eixos; llavors considerem les direccions en ℝ<sup>''n''</sup> enviades per ''T'' sobre aquests eixos. Resulta que aquestes direccions són mútuament ortogonals. Apliquem primer una isometria ''v*'' que envia aquestes direccions als eixos coordenats de ℝ<sup>''n''</sup>. En un segon moviment, apliquem un [[endomorfisme]] ''d'' diagonalitzat al llarg dels eixos coordenats i eixamplant o estrenyent en cada direcció, usant les longituds dels semieixos de ''T''(''S'') com a coeficients d'eixamplament. La composició ''d''{{mida|1= o }}''v*'' envia l'esfera unitat en un el·lipsoide isomètric a ''T''(''S''). Per definir el tercer i últim moviment ''u'', apliquem una isometria a aquest el·lipsoide per portar-lo a sobre de ''T''(''S''). Es pot comprovar fàcilment que la composició ''u'' ∘ ''d'' ∘ ''v*'' coincideix amb ''T''.

== Càlcul de la descomposició en valors singulars ==

=== Enfocament numèric ===
Habitualment, la DVS d'una matriu ''M'' es calcula mitjançant un procediment de dos passos. En el primer pas, es redueix la matriu a una [[matriu bidiagonal]]. Això comporta O(''mn''<sup>2</sup>) operacions en coma flotant (''flops''), assumint que ''m'' ≥ ''n'' (aquesta formulació usa la [[Cota superior asimptòtica|notació O gran]]). El segon pas és calcular la DVS de la matriu bidiagonal. Aquest pas només es pot realitzar mitjançant un [[mètode iteratiu]] (com en els algorismes per calcular valors propis). Tot i això, en la pràctica és suficient amb calcular la DVS fins a una determinada precisió, com l'[[èpsilon de la màquina]]. Si considerem constant aquesta precisió, llavors el segon pas comporta O(''n'') iteracions, cadascuna costant O(''n'') ''flops''. Per tant, el primer pas és més costós, i el cost global és O(''mn''<sup>2</sup>) ''flops'' {{harv|Trefethen|Bau III|1997|loc=Lecture 31}}.

Es pot realitzar el primer pas usant [[Transformació de Householder|transformacions de Householder]] per un cost de 4''mn''<sup>2</sup> − 4''n''<sup>3</sup>/3 ''flops'', assumint que només es necessiten els valors singulars, i no els vectors singulars. Si ''m'' és molt més gran que ''n'' llavors és convenient reduir primer la matriu ''M'' a una matriu triangular superior mitjançant la [[factorització QR]], i llavors usar transformacions de Householder per continuar reduint la matriu a una forma bidiagonal; el cost combinat és 2''mn''<sup>2</sup> + 2''n''<sup>3</sup> ''flops'' {{harv|Trefethen|Bau III|1997|loc=Lecture 31}}.

El segon pas es pot realitzar mitjançant una variant de l'[[algorisme QR]] per calcular els valors propis, que fou descrit originàriament per {{harvtxt|Golub|Kahan|1965}}. La subrutina DBDSQR de [[LAPACK]]<ref>[http://www.netlib.org/lapack/double/dbdsqr.f Netlib.org]</ref> implementa aquest mètode iteratiu, amb algunes modificacions per poder cobrir el cas en què els valors singulars són molt petits {{harv|Demmel|Kahan|1990}}. En conjunt amb un primer pas usant transformacions de Householder i, si cal, factorització QE, això forma la rutina DGESVD<ref>[http://www.netlib.org/lapack/double/dgesvd.f Netlib.org]</ref> pel càlcul de la descomposició en valors singulars.

També s'ha implementat el mateix algorisme en la ''[[GNU Scientific Library]]'' (GSL). La GSL també ofereix un mètode alternatiu, que usa una [[ortogonalització de Jacobi]] en el pas 2 {{harv|GSL Team|2007}}. Aquest mètode calcula la DVS de la matriu bidiagonal tot resolent una seqüència de problemes DVS 2 per 2, de forma similar a com l'[[algorisme de valors propis de Jacobi]] resol una seqüència de mètodes de valors propis 2 per 2 {{harv|Golub|Van Loan|1996|loc=§8.6.3}}. Finalment, un altre mètode pel pas 2 usa la idea d'un algorisme [[Algorisme#Divideix i venceràs|divideix i venceràs]] {{harv|Trefethen|Bau III|1997|loc=Lecture 31}}.

=== Resultat analític d'una DVS 2 per 2 ===
Els valors singulars d'una matriu 2 per 2 es poden calcular de forma analítica. Suposem que la matriu és
<math>\mathbf{M} = z_0\mathbf{I} + z_1\sigma_1 + z_2\sigma_2 + z_3\sigma_3</math>

on els <math>z_i \in \mathbb{C}</math> són nombres complexos que parametritzen la matriu, <math>\mathbf{I}</math> és la matriu identitat, i <math>\sigma_i</math> denoten les [[matrius de Pauli]]. Aleshores els dos valors singulars estan donats per
:<math>\begin{align}
  \sigma_{\pm} &= \sqrt{|z_0|^2 + |z_1|^2 + |z_2|^2 + |z_3|^2 \pm \sqrt{(|z_0|^2 + |z_1|^2 + |z_2|^2 + |z_3|^2)^2 - |z_0^2 - z_1^2 - z_2^2 - z_3^2|^2}} \\
               &= \sqrt{|z_0|^2 + |z_1|^2 + |z_2|^2 + |z_3|^2 \pm 2\sqrt{(\mathrm{Re}z_0z_1^*)^2 + (\mathrm{Re}z_0z_2^*)^2 + (\mathrm{Re}z_0z_3^*)^2 + (\mathrm{Im}z_1z_2^*)^2 + (\mathrm{Im}z_2z_3^*)^2 + (\mathrm{Im}z_3z_1^*)^2}}
\end{align}</math>

== Descomposicions en valors singulars reduïdes ==
En la pràctica, és força inusual trobar la DVS completa, incloent una descomposició unitària completa del nucli de la matriu. En canvi, acostuma a ser suficient (i més ràpid i econòmic en termes d'emmagatzematge) calcular una versió reduïda de la DVS. Podem distingir els següents casos per una matriu ''M'' de dimensió ''m''×''n'' i de rang ''r'':

=== DVS 'aprimada' ===
:<math>\mathbf{M} = \mathbf{U}_n \boldsymbol{\Sigma_n} \mathbf{V}^*</math>

Només es calculen els ''n'' vectors columna de ''U'' corresponents als vectors fila de ''V*''. La resta de vectors columna de ''U'' no es calculen. Això és significativament més ràpid i més econòmic que la DVS completa si ''n''≪''m''. La matriu ''U''<sub>n</sub> és per tant ''m''×''n'', Σ<sub>n</sub> és ''n''×''n'' diagonal, i ''V'' és ''n''×''n''.

El primer pas en el càlcul d'una DVS 'aprimada' acostuma a ser una [[factorització QR]] de ''M'', que pot ser un càlcul significativament més ràpid si ''n''≪''m''.

=== DVS compacta ===
:<math>\mathbf{M} = \mathbf{U}_r \boldsymbol{\Sigma}_r \mathbf{V}_r^*</math>

Només es calculen els ''r'' vectors columna de ''U'' i els ''r'' vectors fila de ''V*'' corresponents als valors singulars no-nuls Σ<sub>r</sub>. La resta de vectors de ''U'' i ''V*'' no es calculen. Això és més ràpid i més econòmic que la DVS 'aprimada' si ''r''≪''n''. La matriu ''U''<sub>r</sub> és per tant ''m''×''r'', Σ<sub>r</sub> és ''r''×''r'' diagonal, i ''V''<sub>r</sub>* és ''r''×''n''.

=== DVS truncada ===
:<math>\tilde{\mathbf{M}} = \mathbf{U}_t \boldsymbol{\Sigma}_t \mathbf{V}_t^*</math>

Només es calculen els ''t'' vectors columna de ''U'' i els ''t'' vectors fila de ''V*'' corresponents als ''t'' valors singulars Σ<sub>t</sub> més grans. La resta de la matriu és descartada. Això pot ser molt més ràpid i econòmic que la DVS compacta si ''t''≪''r''. La matriu ''U''<sub>t</sub> és per tant ''m''×''t'', Σ<sub>t</sub> és ''t''×''t'' diagonal, i ''V''<sub>t</sub>* és ''t''×''n''.

És clar que la DVS truncada ja no és una descomposició exacta de la matriu original ''M'', però com hem vist [[#Aproximació per matrius de rang baix|més amunt]], la matriu aproximada <math>\tilde{\mathbf{M}}</math> és, en un sentit molt útil, l'aproximació més propera a ''M'' que es pot aconseguir per una matriu de rang ''t''.

== Normes ==

=== Normes Ky Fan ===
La suma dels ''k'' valors singulars més grans de ''M'' és una [[norma matricial]], la ''k''-norma [[Ky Fan]] de ''M''.

La primera de les normes de Ky Fan, la 1-norma Ky Fan, és el mateix que la [[norma d'operador]] de ''M'' com a operador lineal respecta les normes euclidianes de ''K''<sup>''m''</sup> i ''K''<sup>''n''</sup>. En altres paraules, la 1-norma Ky Fan és la norma d'operador induïda pel producte intern euclidià estàndard <math>\ell^2</math>. Per aquesta raó, també s'anomena 2-norma d'operador. Hom pot verificar fàcilment la relació entre la 1-norma Ky Fan i els valors singulars. En general és cert, per operadors afitats en espais de Hilbert (possiblement de dimensió infinita), que

:<math>\| \mathbf{M} \| = \| \mathbf{M}^* \mathbf{M} \|^\frac{1}{2}</math>

Però en el cas matricial, ''M*M''<sup>½</sup> és una [[matriu normal]], i llavors ||''M* M''||<sup>½</sup> és el valor propi més gran de ''M* M''<sup>½</sup>, és a dir, el valor singular més gran de ''M''.

L'última de les normes Ky Fan, la suma de tots els valors singulars, és la [[Operador de norma de traça|norma de traça]] (també conegut com a 'norma nuclear'), definida com ||''M''|| = Tr[(''M*M'')<sup>½</sup>] (els valors propis de ''M* M'' són els quadrats dels valors singulars).

=== Norma Hilbert–Schmidt {{Àncora|Norma Hilbert–Schmidt|Norma Hilbert-Schmidt|Hilbert–Schmidt|Hilbert-Schmidt}} ===
Els valors singulars estan relacionats amb una altra norma en l'espai dels operadors. Considerem el producte interior de [[Hilbert–Schmidt operator|Hilbert–Schmidt]] sobre les matrius ''n'' × ''n'', definit per <math>\langle \mathbf{M}, \mathbf{N} \rangle = \operatorname{tr}(\mathbf{N}^*\mathbf{M})</math>. La norma induïda és <math>\|\mathbf{M}\| = \langle \mathbf{M}, \mathbf{M}\rangle^\frac{1}{2} = \operatorname{tr}(\mathbf{M}^*\mathbf{M})^\frac{1}{2}</math>. Com que la traça és invariant per equivalència unitària, això ens diu que

:<math>\| \mathbf{M} \| = \left(\sum \sigma_i ^2\right)^\frac{1}{2}</math>

on <math>\sigma_i</math> són els valors singulars de ''M''. Això s'anomena la '''[[norma de Frobenius]]''', '''2-norma de Schatten''' o '''norma de Hilbert–Schmidt''' de ''M''. Un càlcul directe mostra que si

:<math>\mathbf{M} = (m_{ij})</math>

la norma de Frobenius de ''M'' coincideix amb

:<math>\left( \sum_{ij} | m_{ij} |^2 \right)^\frac{1}{2}</math>

== DVS de tensors ==
Lamentablement, el problema de trobar una aproximació de rang baix a un tensor està mal plantejat. En altres paraules, no existeix una possible millor solució, però en canvi existeix una successió d'aproximacions cada cop millors que convergeixen a matrius infinitament grans. Tot i això, hi ha diverses maneres d'intentar trobar una descomposició.

Existeixen dos tipus de descomposicions de tensors, que generalitzen la DVS en matrius multidimensionals. Un d'aquests tipus descompon un tensor en suma de tensors de rang 1, veure l'algorisme [[Candecomp]]-[[PARAFAC]] (CP). L'algorisme CP no ha de ser confós amb una descomposició de rang ''R'', però donat ''N'', descompon el tensor en suma de ''N'' tensors de rang 1 que s'ajusten de manera òptima al tensor original. El segon tipus de descomposició calcula els subespais ortonormals associats als diferents eixos o models d'un tensor (espai de files ortonormal, espai de columnes, espai fibrat, etc.). Aquesta descomposició s'acostuma a anomenar [[Descomposició de Tucker|Tucker3/TuckerM]], DVS ''M''-modal, DVS multilineal i de vegades [[Descomposició en valors singulars d'ordre superior|DVS d'ordre superior]] (HOSVD, de l'anglès ''Higher-order singular value decomposition''). Addicionalment, l'[[anàlisi de components principals multilineal]] en [[aprenentatge de subespais multipleals]] tracta les mateixes operacions matemàtiques que la descomposició de Tucker, però usades en un context diferent de [[reducció dimensional]].

== Operadors afitats en espais de Hilbert ==
La factorització <math>\mathbf{M} = \mathbf{U} \boldsymbol{\Sigma} \mathbf{V}^*</math> es pot estendre a un [[operador afitat]] ''M'' en un espai de Hilbert separable ''H''. De fet, per tot operador afitat ''M'', existeixen una [[isometria parcial]] ''U'', una d'unitària ''V'', un espai de mesura (''X'',&nbsp;''μ''), i un mesurable no-negatiu ''f'' tals que

:<math>\mathbf{M} = \mathbf{U} T_f \mathbf{V}^*</math>

on <math>T_f</math> és la [[operador multiplicador|multiplicació per ''f'']] sobre ''L''<sup>2</sup>(''X'', ''μ'').

Això es pot demostrar tot seguint un argument similar al cas matricial que hem vist més amunt. ''V T<sub>f</sub> V*'' és l'única arrel quadrada positiva de ''M*M'', donada pel [[càlcul funcional de Borel]] per [[Operador autoadjunt|operadors autoadjunts]]. La raó per la qual no és necessari que ''U'' sigui unitària és que, al contrari que en el cas de dimensió finita, donada una isometria ''U''<sub>1</sub> amb nucli no-trivial, no es pot trobar cap ''U''<sub>2</sub> tal que

:<math>\begin{bmatrix} U_1 \\ U_2 \end{bmatrix}</math>

sigui un operador unitari.

Com en el cas de matrius, la descomposició en valors singulars és equivalent a la [[descomposició polar]] per operadors: podem escriure senzillament

:<math>\mathbf{M} = \mathbf{U} \mathbf{V}^* \cdot \mathbf{V} T_f \mathbf{V}^*</math>

i notem que ''U V*'' encara és una isometria parcial, mentre que ''V T<sub>f</sub> V*'' és positiva.

=== Valors singulars i operadors compactes ===
Per estendre la noció de valors singulars i vectors singulars per l'esquerra/per la dreta al cas d'operadors, necessitem restringir-nos als [[Operador compacte en un espai de Hilbert|operadors compactes]]. És un fet general que els operadors compactes sobre [[Espai de Banach|espais de Banach]] tenen només un espectre discret. Això també és cert per operadors compactes sobre espais de Hilbert, ja que els [[Espai de Hilbert|espais de Hilbert]] són un cas especial d'espais de Banach. Si ''T'' és compacte, tot ''λ'' no-nul del seu [[Espectre (anàlisi funcional)|espectre]] és un valor propi. Addicionalment, un operador autoadjunt compacte es pot diagonalitzar mitjançant els seus vectors propis. Si ''M'' és compacte, també ho és ''M*M''. Aplicant el resultat de diagonalització, la imatge unitària de la seva arrel quadrada positiva ''T<sub>f</sub>'' té un conjunt de vectors propis ortonormals {''e<sub>i</sub>''} corresponents a valors propis estrictament positius {''σ<sub>i</sub>''}. Per qualsevol&nbsp;''ψ''&nbsp;∈&nbsp;''H'',

:<math>\mathbf{M} \psi = \mathbf{U} T_f \mathbf{V}^* \psi = \sum_i \langle \mathbf{U} T_f \mathbf{V}^* \psi, \mathbf{U} e_i \rangle \mathbf{U} e_i =
                           \sum_i \sigma_i \langle \psi, \mathbf{V} e_i \rangle \mathbf{U} e_i</math>

on la sèrie convegeix en la topologia de la norma de ''H''. Notem que això recorda l'expressió del cas de dimensió finita. Els ''σ<sub>i</sub>'' són anomenats valors singulars de ''M''. {''U e<sub>i</sub>''} i {''V e<sub>i</sub>''} poden considerar-se com els vectors singulars per l'esquerra i per la dreta de ''M'', respectivament.

Els [[Operador compacte en un espai de Hilbert|operadors compactes en un espai de Hilbert]] són la clausura dels [[Operador de rang finit|operadors de rang finit]] en la topologia d'operadors uniformes. La sèrie de damunt en dóna una representació explícita. Una conseqüència immediata és que:

'''Teorema:''' ''M'' és compacte [[si i només si]] if ''M*M'' és compacte.

== Història ==
La descomposició en valors singulars fou desenvolupada originàriament per [[Geometria diferencial|geòmetres diferencials]], que volien determinar si una [[forma bilineal]] es podia igualar a una altra mitjançant transformacions ortogonals independents. [[Eugenio Beltrami]] i [[Camille Jordan]] van descobrir independentment, en 1873 i 1874 respectivament, que els valors singulars de les formes bilineals, representats com una matriu, formen un conjunt complet d'[[invariant]]s per formes bilineals sota substitucions ortogonals. [[James Joseph Sylvester]] també va arribar a la descomposició en valors singulars per matrius quadrades reals en 1889, aparentment de forma independent tant de Beltrami com de Jordan. Sylvester va anomenar als valors singulars els ''multiplicadors canònics'' de la matriu ''A''. El quart matemàtic que va descobrir la descomposició en valors singulars de forma independent va ser Autonne en 1915, que hi va arribar mitjançant la [[descomposició polar]]. La primera demostració de la descomposició en valors singulars per matrius rectangulars i complexes sembla ser de [[Carl Eckart]] i Gale Young en 1936;<ref>{{ref-publicació |cognom=Eckart |nom=Carl |títol=The approximation of one matrix by another of lower rank |publicació=Psychometrika|pàgines=211–218|volum=1 |exemplar=3 |doi=10.1007/BF02288367 |enllaçautor=Carl Eckhart |coautors=Young, Gale|any=1936 |ref=harv}}</ref> van veure la descomposició com una generalització de la transformació de l'eix principal per [[Matriu hermítica|matrius hermítiques]].

En 1907, [[Erhard Schmidt]] va definir un concepte anàleg als valors singulars per [[Operador integral|operadors integrals]] (que són compactes, sota certes hipòtesis tècniques); sembla que no coneixia la feina paral·lela sobre valors singulars de matrius finites. Aquesta teoria va ser desenvolupada posteriorment per [[Émile Picard]] en 1910, que és el primer en anomenar els nombres <math>\sigma_k</math> ''valors singulars'' (en francès, ''valeurs singulières'').

Els mètodes pràctics per calcular la DVS es remunten a [[Ervand Kogbetliantz|Kogbetliantz]] en 1954 i 1955, i a [[Magnus Hestenes|Hestenes]] en 1958,<ref>{{ref-publicació |cognom=Hestenes |nom=Magnus R. |títol=Inversion of Matrices by Biorthogonalization and Related Results|publicació=Journal of the Society for Industrial and Applied Mathematics|data=1 març 1958 |pàgines=51–90 |volum=6 |exemplar=1 |doi=10.1137/0106005 |enllaçautor=Magnus Hestenes|any=1958||mr=0092215|jstor=2098862|ref=harv}}</ref> molt semblant a l'[[algorisme de valors propis de Jacobi]], que usa rotacions del pla o [[Rotació de Givens|rotacions de Givens]]. Tot i això, van ser substituïts pel mètode de [[Gene H. Golub|Gene Golub]] i [[William Kahan]] publicat en 1965,<ref>{{ref-publicació|cognom=Golub|nom=Gene H.|títol=Calculating the Singular Values and Pseudo-Inverse of a Matrix|publicació=Journal of the Society for Industrial and Applied Mathematics Series B Numerical Analysis|data=1 gener de 1965 |pàgines=205–224 |volum=2 |exemplar=2|doi=10.1137/0702016 |enllaçautor=Gene H. Golub |coautors=Kahan, W. |any=1965 |mr=0183105 |jstor=2949777 |ref=harv}}</ref> que usa [[Transformació de Householder|transformacions de Householder]] o reflexions. En 1970, Golub i Christian Reinsch<ref>{{ref-publicació |cognom=Golub |nom=Gene H. |títol=Singular value decomposition and least squares solutions|publicació=Numerische Mathematik |data=NaN undefined NaN |pàgines=403–420 |volum=14 |exemplar=5 |doi=10.1007/BF02163027 |coautors=Reinsch, Christian|any=1970|mr=1553974|ref=harv}}</ref> van publicar una variant de l'algorisme de Golub/Kahan que encara és el més emprat en l'actualitat.

== Referències ==
{{referències}}

== Vegeu també ==
* [[Correlació canònica]]
* [[Forma canònica]]
* [[Anàlisi de correspondències]]
* [[Maledicció de la dimensió]]
* [[Processament de senyals digitals]]
* [[Reducció de dimensions]]
* [[Descomposició espectral]]
* [[Anàlisi de Fourier]]
* [[Descomposició en valors singulars generalitzats]]
* [[Anàlisi semàntica latent]]
* [[Indexació semàntica latent]]
* [[Mínims quadrats]]
* [[Descomposició de matrius]]
* [[Anàlisi de components principals multilineal]]
* [[Cerca del veí més proper]]
* [[Descomposició polar]]
* [[Anàlisi de components principals]]
* [[Valor singular]]
* [[Sèrie temporal]]
* [[Descomposició en valors singulars bidimensional]]
* [[Compressió per wavelets]]

== Bibliografia ==
* {{ref-llibre|cognom=Trefethen|nom=Lloyd N.|títol=Numerical linear algebra.|lloc=Philadelphia| editorial=Society for Industrial and Applied Mathematics|any=1997|isbn=978-0-89871-361-9|enllaçautor=Lloyd N. Trefethen|coautors=Bau III, David}}
* {{ref-publicació|cognom=Demmel|nom=James|títol=Accurate Singular Values of Bidiagonal Matrices|publicació=SIAM Journal on Scientific and Statistical Computing|data=1 setembre 1990|pàgines=873–912|volum=11|exemplar=5|doi=10.1137/0911052|enllaçautor=James Demmel|coautors=Kahan, William|any=1990}}
* {{ref-publicació|cognom=Golub|nom=Gene H.|títol=Calculating the Singular Values and Pseudo-Inverse of a Matrix|publicació=Journal of the Society for Industrial and Applied Mathematics Series B Numerical Analysis|data=1 gener 1965|pàgines=205–224|volum=2|exemplar=2|doi=10.1137/0702016|enllaçautor=Gene H. Golub|coautors=Kahan, William|any=1965|jstor=2949777}}
* {{ref-llibre|cognom=Loan|nom=Gene H. Golub; Charles F. Van|títol=Matrix computations|lloc=Baltimore, Md. [u.a.]| editorial=Johns Hopkins Univ. Press|any=1996|isbn=978-0-8018-5414-9|edició=3. ed.}}
* {{ref-llibre|cognom=GSL Team|títol=GNU Scientific Library. Reference Manual|any=2007|url= http://www.gnu.org/software/gsl/manual/html_node/Singular-Value-Decomposition.html|capítol=§13.4 Singular Value Decomposition}} 
* Halldor, Bjornsson and Venegas, Silvia A. (1997). [http://brunnur.vedur.is/pub/halldor/TEXT/eofsvd.html "A manual for EOF and SVD analyses of climate data"]. McGill University, CCGCR Report No. 97-1, Montréal, Québec, 52pp.
* {{ref-publicació|cognom=Hansen|nom=Per Christian|títol=The truncatedSVD as a method for regularization|publicació=BIT|data=1 desembre 1987|pàgines=534–553|volum=27|exemplar=4|doi=10.1007/BF01937276|ref=harv}}
* {{ref-llibre|cognom=Johnson|nom=Roger A. Horn; Charles R.|títol=Matrix analysis|lloc=Cambridge [u.a.]| editorial=Cambridge Univ. Press|any=2005|isbn=0-521-38632-2|capítol=Section 7.3|edició=19. print.}}
* {{ref-llibre|cognom=Johnson|nom=Roger A. Horn; Charles R.|títol=Topics in matrix analysis|lloc=Cambridge [u.a.]| editorial=Cambridge Univ. Press|any=2007|isbn=0-521-46713-6|capítol=Chapter 3|edició=8. print.}}
* {{ref-llibre|cognom=Samet|nom=Hanan|títol=Foundations of multidimensional and metric data structures|lloc=San Francisco, CA| editorial=Morgan Kaufmann Pubs [u.a.]|any=2006|isbn=0-12-369446-9}}
* {{ref-llibre|cognom=Strang|nom=Gilbert|títol=Introduction to linear algebra|lloc=Wellesley, Mass.| editorial=Wellesley-Cambridge Press|any=1998|isbn=0-9614088-5-5|capítol=Section 6.7|edició=3. ed.}}
* {{ref-publicació|cognom=Stewart|nom=G. W.|títol=On the Early History of the Singular Value Decomposition|publicació=SIAM Review|data=1 desembre 1993|pàgines=551–566|volum=35|exemplar=4|doi=10.1137/1035134|url= http://citeseer.ist.psu.edu/stewart92early.html|any=1993|ref=harv}}
* {{ref-llibre|nom=Wall, Michael E., Andreas Rechtsteiner, Luis M. Rocha|títol=A Practical Approach to Microarray Data Analysis|pàgines=91-109|lloc=Norwell, MA| editorial=Kluwer|any=2003|url= http://public.lanl.gov/mewall/kluwer2002.html| editor=D.P. Berrar, W. Dubitzky, M. Granzow|capítol=Singular value decomposition and principal component analysis}}
* {{ref-llibre|nom=William H. Press [et al.]|títol=Numerical recipes : the art of scientific computing|lloc=Cambridge, UK| editorial=Cambridge University Press|any=2007|isbn=978-0-521-88068-8|url= http://apps.nrbook.com/empanel/index.html?pg=65|capítol=Section 2.6|edició=3rd ed.}}

{{ORDENA:Descomposicio En Valors Singulars}}
[[Categoria:Àlgebra lineal]]
[[Categoria:Anàlisi funcional]]