אנטרופיית פון נוימן היא הכללה קוונטית של אנטרופיית שאנון הקלאסית. אנטרופיה זו הוצעה בשנת 1932 על ידי ג'ון פון נוימן, במפתיע, לפני ששאנון הגה את האנטרופיה שלו (1948). אנטרופיה זו מכמתת את כמות האינפורמציה במערכת, ואת הקורלציה בין מערכות קוונטיות.

אנטרופיית פון נוימן מתקשרת לקידוד מקור (אנ')- התהליך של קידוד ופענוח מידע. המטרה של אנטרופיה זו היא לכווץ מידע כדי להפחית את העלות של אחסונו או העברתו. תאוריה זו נקראת תאוריית קידוד המקור של שאנון^[1].

במערכות קוונטיות, המתוארות על ידי מטריצת הצפיפות, אנטרופיית פון נוימן מתוארת בצורה הבאה^[2]:

${\displaystyle S=-\operatorname {Tr} (\rho \ln \rho ),}$

ערך זה, בפיזיקה, נותן את הקשר בין מכניקה סטטיסטית-קוונטית ותרמודינמיקה: כאשר מטריצת הצפיפויות תוגדר כך- ${\displaystyle \rho ={e^{-\beta H} \over Z}}$ (${\displaystyle Z}$ היא פונקציית החלוקה) נקבל את מצב גיבס המתאר סידור מצבים בשיווי משקל תרמודינמי.

נתמקד במרחב הילברט בעל מימד סופי. בהנחה כי המערכת הקוונטית מיוצגת על ידי סידור של מצבים עצמיים ${\displaystyle {\{|\phi _{x}\rangle ;p_{x}\}}}$, מטריצת הצפיפות, ${\displaystyle \rho }$ תהא: ${\displaystyle \rho =\sum _{x}p_{x}\left|\phi _{x}\right\rangle \left\langle \phi _{x}\right|~}$ עבור המקרה הספציפי בו המצבים המעורבים מהווים בסיס אורתונורמלי למרחב הילברט, נקבל כי מטריצת הצפיפות היא אלכסונית, כך שהערכים העצמיים של ${\displaystyle \rho \ln \rho }$ הם ${\displaystyle p_{x}\ln {p_{x}}}$ ואנטרופיית פון נוימן תכתב כך:

${\displaystyle S=-\sum _{x}p_{x}\ln {p_{x}}=H(X)}$ כאשר ${\displaystyle X}$ הוא משתנה מקרי עם התפלגות ${\displaystyle p_{x}}$ . במקרה זה אנטרופיית פון נוימן זהה לאנטרופיית שאנון. במקרה בו המצבים המעורבים אינם אורתונורמליים נקבל כי ${\displaystyle S\neq H(X)}$ . ניתן גם להראות כי באופן כללי מתקיים ${\displaystyle S\leq H(X)}$.

1. אי שליליות: ${\displaystyle S\geq 0}$, כאשר השווין לאפס מתקיים אם ורק אם מטריצת הצפיפויות מייצגת מצב טהור. תכונה זו נובעת ישירות מהגדרת האנטרופיה, כאשר ${\displaystyle 0\leq p_{x}\leq 1}$.
2. חסם עליון: ${\displaystyle S\leq \ln {D}}$ כאשר ${\displaystyle D}$ הוא מימד מרחב הילברט. מקסימום זה מתקבל עבור מצב מעורב מקסימלי, בו ${\displaystyle X}$ מתפלג אחיד.
3. אינווריאנטית תחת מעבר בסיס של מטריצת הצפיפויות, זאת אומרת ${\displaystyle S(\rho )=S(U\rho U^{\dagger })}$.
4. אדיטיביות:^[4] ${\displaystyle S(\rho \otimes \sigma )=S(\rho )+S(\sigma )}$.
5. תת חיבוריות: ${\displaystyle S(\rho _{AB})\leq S(\rho _{A})+S(\rho _{B})}$, עבור מצב בי-פרטיטי.
6. תת-חיבוריות (חזקה):^[5] ${\displaystyle S(\rho _{AC})+S(\rho _{BC})\geq S(\rho _{ABC})+S(\rho _{C})}$
7. קעירות: ${\displaystyle S(\rho )\geq \sum _{j}{p_{j}S(\rho _{j})}}$, כאשר ${\displaystyle \rho _{j}}$ הוא אופרטור צפיפות במרחב הילברט ${\displaystyle {\mathcal {H}}}$ עבור קבוצה סופית ${\displaystyle \{j\}}$, ו- ${\displaystyle \{p_{j}\}}$ פונקציית ההסתברות, כלומר מקיימת ${\displaystyle 0\leq p_{j}\leq 1,\sum _{j}p_{j}=1}$ ומתקיים: ${\displaystyle \rho =\sum _{j}\rho _{j}p_{j}}$.
8. אי שוויון עיבוד הנתונים:^[6] ${\displaystyle S({\mathcal {N(\rho )}})\geq S({\rho })}$, כאשר: ${\displaystyle {\mathcal {N}}:{\mathcal {L}}({\mathcal {H}}_{A})\rightarrow {\mathcal {L}}({\mathcal {H}}_{B})}$ הוא ערוץ קוונטי יחידני.
9. אי שוויון המשולש:^[4] עבור מערכת בי-פרטיטית ${\displaystyle \rho _{AB}}$ מתקיים ${\displaystyle |S(\rho _{A})-S(\rho _{B})|\leq S(\rho _{AB})}$

באנלוגיה ישירה לאנטרופיית שאנון היחסית, נגדיר את אנטרופיית פון נוימן היחסית:

${\displaystyle S_{Rel}(\sigma ||\rho )\triangleq \operatorname {Tr} \left(\sigma (\ln \sigma -\ln \rho )\right)}$

אנטרופיית פון נוימן היחסית נותנת אינדיקציה לכמה קשה להבחין בין המצבים ${\displaystyle \sigma }$ ו- ${\displaystyle \rho }$^[8]. אנטרופיה זו נודעת גם כאנטרופיה הקוונטית היחסית.

• אנטרופיית צאליס
• אנטרופיית שאנון
• אנטרופיית רניי

מכניקה סטטיסטית
תאוריה	עקרון גידול האנטרופיה • ergodic theory
תרמודינמיקה סטטיסטית	צברים • פונקציית חלוקה • משוואות מצב • פוטנציאלים תרמודינמיים: (U • H • F •‏ G) • קשרי מקסוול
מודל סטטיסטי	Ferromagnetism models (איזינג • פוטס • הייזנברג • חלחול EN) • חלקיקים בעלי שדה כוחות (כוחות דלדול EN • פוטנציאל לנארד-ג'ונס)
גישות מתמטיות	משוואת בולצמן • משפט־H • משוואת ולסוב • מדרג BBGKY • תהליך סטוכסטי • תורת שדה ממוצע ותורת השדות הקונפורמית
תופעות קריטיות	מעבר פאזה • אקספוננט קריטי (מרחק קורלציה • size scaling)
אנטרופיה	בולצמן • שאנון • צאליס • רניי • פון נוימן
יישומים	תורת השדות הסטטיסטית (חלקיקים יסודיים • נוזלי־על) • פיזיקה של חומר מעובה • מערכות מורכבות (כאוס • תורת האינפורמציה • אנטרופיה בתרמודינמיקה ובתורת האינפורמציה • מכונת בולצמן)