Produs Hadamard

operație cu matrici

În matematică produsul Hadamard[1] sau produsul Schur[2]) este o operație binară pe două matrici de aceleași dimensiuni, rezultatul fiind o altă matrice de aceeași dimensiune, în care fiecare element i, j este produsul elementelor i, j ale celor două matrici inițiale. Este numit astfel pentru a fi distins de produsul matricial comun. Numele său vine fie de la matematicianul francez Jacques Hadamard, fie de la matematicianul german Issai Schur din Rusia.

Produsul Hadamard operează pe matrici de formă identică și produce o a treia matrice cu aceleași dimensiuni

Produsul Hadamard este asociativ și distributiv. Spre deosebire de produsul matricial, acesta este, de asemenea, comutativ.[3]

Definiție

modificare

Pentru două matrice A și B de aceeași dimensiune m × n, produsul Hadamard   (sau  [4][5][6]) este o matrice de aceeași dimensiune cu cele care formează operanzii, matrice a cărei elemente sunt date de[3]

 

Pentru matrici de dimensiuni diferite (m × n și p × q, unde m ≠ p sau n ≠ q), produsul Hadamard este nedefinit.

De exemplu, produsul Hadamard pentru o matrice A de 3 × 4 cu o matrice B de 3 × 4 este:

 

Proprietăți

modificare
  • Produsul Hadamard este comutativ (când se lucrează cu un inel comutativ), asociativ și distributiv peste adunare. Adică dacă A, B și C sunt matrici de aceeași dimensiune, iar k este un scalar:
 
  • Matricea unitate pentru înmulțirea Hadamard a două matrice m × n este o matrice cu toate elementele 1 m × n. Aceasta este diferită de matricea unitate pentru produsul matricial obișnuit, unde doar elementele diagonalei principale sunt egale cu 1. În plus, pentru o înmulțire Hadamard o matrice are o matrice inversă dacă și numai dacă niciunul dintre elemente nu este egal cu zero.[7]
  • Pentru vectorii x și y și matricile diagonale corespunzătoare Dx și Dy cu acești vectori drept diagonale principale, este valabilă următoarea identitate:[8]:479
 
unde cu x* este notată matricea adjunctă a lui x. În particular, folosind vectori cu toate valorile 1, aceasta arată că suma tuturor elementelor din produsul Hadamard este urma lui ABT, unde exponentul T indică matricea transpusă. Un rezultat înrudit pentru A și B pătrate este că sumele pe linii ale produsului Hadamard sunt elementele diagonale ale lui ABT:[9]
 
Similar,
 
Mai mult, un produs Hadamard de matrici-vector poate fi exprimat ca:
 
unde   este vectorul format din diagonalele matricei M.
 
  • Dacă A și B sunt matrici definite pozitiv⁠(d), atunci este valabilă următoarea inegalitate care implică produsul Hadamard:[12] :: 
unde λi(A) este a i-lea cea mai mare valoare proprie a lui A.
 
  • Produsul Hadamard a doi vectori   și   este același cu înmulțirea matricială a unui vector cu matricea diagonală corespunzătoare a celuilalt vector:
 
  • Vectorul matricei diagonale, operatorul  , poate fi exprimat prin produsul Hadamard ca:
 
unde   este un vector constant cu toate elementele 1, iar I este matricea unitate.

Aplicații

modificare

Produsul Hadamard apare în algoritmi de compresie cu pierderi⁠(d), cum ar fi JPEG. Etapa de decodare implică un produs de element cu element, cu alte cuvinte produsul Hadamard.

În prelucrarea digitală a imaginilor⁠(d), operatorul Hadamard poate fi folosit pentru îmbunătățirea, suprimarea sau mascarea regiunilor imaginii. O matrice conține imaginea inițială, cealaltă acționează ca matrice de ponderare sau de mascare.

Este folosit în literatura de învățare automată, de exemplu, pentru a descrie arhitectura rețelelor neuronale recurente ca GRU-uri⁠(d) sau LSTM-uri⁠(d).[14]

De asemenea, este folosit pentru a studia proprietățile statistice ale vectorilor și matricelor aleatorii.[15][16]

  1. ^ Matrici (tablouri bidimensionale), Universitatea Babeș-Bolyai, 10 martie 2018, accesat 2023-04-06
  2. ^ en Davis, Chandler (). „The norm of the Schur product operation”. Numerische Mathematik. 4 (1): 343–44. doi:10.1007/bf01386329. 
  3. ^ a b en Million, Elizabeth (). „The Hadamard Product” (PDF). buzzard.ups.edu. Accesat în . 
  4. ^ en „Hadamard product - Machine Learning Glossary”. machinelearning.wtf. 
  5. ^ en „linear algebra - What does a dot in a circle mean?”. Mathematics Stack Exchange. 
  6. ^ en „Element-wise (or pointwise) operations notation?”. Mathematics Stack Exchange. 
  7. ^ en Million, Elizabeth. „The Hadamard Product” (PDF). Accesat în . 
  8. ^ en Horn, Roger A.; Johnson, Charles R. (). Matrix analysis. Cambridge University Press. 
  9. ^ en Styan, George P. H. (), „Hadamard Products and Multivariate Statistical Analysis”, Linear Algebra and Its Applications, 6: 217–240, doi:10.1016/0024-3795(73)90023-2, hdl:10338.dmlcz/102190  
  10. ^ en Liu, Shuangzhe; Trenkler, Götz (). „Hadamard, Khatri-Rao, Kronecker and other matrix products”. International Journal of Information and Systems Sciences. 4 (1): 160–177. 
  11. ^ en Liu, Shuangzhe; Leiva, Víctor; Zhuang, Dan; Ma, Tiefeng; Figueroa-Zúñiga, Jorge I. (). „Matrix differential calculus with applications in the multivariate linear model and its diagnostics”. Journal of Multivariate Analysis. 188: 104849. doi:10.1016/j.jmva.2021.104849. 
  12. ^ en Hiai, Fumio; Lin, Minghua (februarie 2017). „On an eigenvalue inequality involving the Hadamard product”. Linear Algebra and Its Applications. 515: 313–320. doi:10.1016/j.laa.2016.11.017 . 
  13. ^ en „Project” (PDF). buzzard.ups.edu. . Accesat în . 
  14. ^ en Sak, Hașim; Senior, Andrew; Beaufays, Françoise (). „Long Short-Term Memory Based Recurrent Neural Network Architectures for Large Vocabulary Speech Recognition”. arXiv:1402.1128  [cs.NE]. 
  15. ^ en Neudecker, Heinz; Liu, Shuangzhe; Polasek, Wolfgang (). „The Hadamard product and some of its applications in statistics”. Statistics. 26 (4): 365–373. doi:10.1080/02331889508802503. 
  16. ^ en Neudecker, Heinz; Liu, Shuangzhe (). „Some statistical properties of Hadamard products of random matrices”. Statistical Papers. 42 (4): 475–487. doi:10.1007/s003620100074.