השערת קֶתֶה היא השערה מפורסמת בתורת החוגים העוסקת באידיאלים ניליים. את ההשערה העלה המתמטיקאי האוסטרי גוטפריד קתה (Gottfried Köthe‏; 1989-1905) ב-1930; אף על פי שהיא פתורה בכמה מקרים חשובים, ההשערה עדיין פתוחה באופן כללי.

השערת קתה שואלת האם בכל חוג (אסוציאטיבי):

• האידיאל הדו-צדדי הנוצר על ידי אידיאל שמאלי נילי, הוא בעצמו נילי.

השערה זו שקולה לכל אחת מההשערות הבאות:

• הסכום של שני אידיאלים שמאליים ניליים הוא נילי.
• אם בחוג אין אידיאל נילי (דו-צדדי), אז אין בו אידיאל נילי חד-צדדי.
• לכל חוג ${\displaystyle R}$ מתקיים ${\displaystyle N(R)={\overline {N}}(R)}$, כאשר ${\displaystyle N(R)}$ הוא סכום האידיאלים הניליים (=הרדיקל הנילי העליון) ו-${\displaystyle {\overline {N}}(R)}$ הוא סכום האידיאלים השמאליים הניליים (=רדיקל קתה).
• לכל חוג נילי, גם חוג המטריצות ${\displaystyle \operatorname {M} _{2}(R)}$ נילי.
• לכל חוג נילי ${\displaystyle R}$, חוג הפולינומים ${\displaystyle R[x]}$ קוואזי-הפיך (כלומר שווה לרדיקל ג'ייקובסון של עצמו; ידוע שחוג הפולינומים של חוג נילי שווה לרדיקל בראון-מק'קוי של עצמו).
• אם ${\displaystyle \operatorname {J} (R[x])=0}$ אז ${\displaystyle {\overline {N}}(R)=0}$.
• אם ${\displaystyle R}$ חוג נילי אז ${\displaystyle R[x]}$ איננו פרימיטיבי.

השקילות לניסוח האחרון נובעת ממשפט של Smoktunowicz, לפיו אידיאלים פרימיטיביים בחוגי פולינומים מעל חוגים ניליים הם הומוגניים. עם זאת, יצוין כי קיים חוג ${\displaystyle R}$ השווה לרדיקל ג'ייקובסון של עצמו, אך חוג הפולינומים מעליו פרימיטיבי. בדיאגרמה משמאל, השערת קתה (בגרסה "אם ${\displaystyle R}$ נילי אז חוג הפולינומים מעליו נילי"), עם תוצאות קרובות. הרדיקלים המופיעים בדיאגרמה הם הרדיקל של ג'ייקובסון, רדיקל Behrnes השווה לחיתוך הגרעינים של הומומורפיזמים לחוגים עם אידמפוטנט, ורדיקל בראון-מקוי. החץ בירוק: השערת קתה. החצים המרוסקים מתארים גרירות טריוויאליות. החצים בכחול, משפטים (מלמעלה למטה: תוצאות של עמיצור, של Beidar-Fong-Puczylowsi 2001 ושל סמוקטונוביץ' 1999). החצים באדום: גרירות שאינן נכונות (הבניה של חוג נילי שחוג הפולינומים מעליו אינו נילי היא של סמוקטונוביץ' 2000).

הגרסה הלא-אסוציאטיבית של השערת קתה אינה נכונה: באלגברה הלא-אסוציאטיבית הנוצרת על ידי שני איברים ${\displaystyle x,y}$ תחת היחסים: ${\displaystyle xy=y,yx=x,x^{2}=y^{2}=0}$, האיברים ${\displaystyle x}$ ו-${\displaystyle y}$ יוצרים אידיאלים שמאליים ניליים, אך סכומם אינו נילי.

השערת קתה מתקיימת בחוג ${\displaystyle R}$ אם לכל אידיאל נילי שמאלי ${\displaystyle L}$, האידיאל הדו-צדדי ${\displaystyle L+LR}$ הוא נילי. השערת קתה מתקיימת בחוגים מהמהחלקות הבאות:

• בחוגים נתריים (לפי משפט הופקינס-לויצקי: בחוג נתרי, כל אידיאל חד-צדדי נילי הוא נילפוטנטי).
• בכל חוג עם זהויות ${\displaystyle {\overline {N}}(R)=\operatorname {Nil} _{*}(R)}$^[1] (בחוג עם זהויות הנוצר סופית מעל חוג קומוטטיבי נתרי, אפילו ${\displaystyle \operatorname {Jac} (R)=\operatorname {Nil} _{*}(R)}$, משפט Razmyslov-Kemer-Braun).
• בחוגים שבהם רדיקל ג'ייקובסון נילי (משום שכל אידיאל שמאלי נילי מוכל ברדיקל ג'ייקובסון). תכונה זו מתקיימת במקרים הבאים (שאת כולם הוכיח עמיצור):
  • באלגברה אלגברית מעל שדה;
  • באלגברה ${\displaystyle R}$ שממדה מעל ${\displaystyle F}$ קטן ממש מהעוצמה של ${\displaystyle F}$;
  • בחוג ${\displaystyle R[x]}$ אם ${\displaystyle R}$ היא אלגברה מעל שדה שאינו בן-מניה (בהקשר זה מעל כל שדה בן-בניה, יש אלגברה נילית ${\displaystyle R}$ כך ש-${\displaystyle \operatorname {J} (R[x])=R[x]}$ אינו נילי; סמוקטונוביץ', 2000).
• באלגברה מונומיאלית נוצרת סופית (משום שרדיקל ג'ייקובסון הוא נילפוטנטי מקומית, Beidar and Fong, 1998).

לפי משפט של עמיצור, רדיקל ג'ייקובסון של כל חוג ${\displaystyle R[x]}$ הוא מהצורה ${\displaystyle I[x]}$ כאשר ${\displaystyle I}$ אידיאל נילי. מכאן שאם ${\displaystyle R}$ הוא חוג שאין בו אידיאלים ניליים, אז ${\displaystyle \operatorname {J} (R[x])=0}$.

• On some results related to Koethe's conjecture, A. Smoktunowicz, Serdica Math J 27 (2000), 159--170.
• The Concise Handbook of Algebra, C.18.
• A. Smoktunoicz, Primitive Ideals in Polynomial Rings over Nil Rings. Algebras and Representation Theory, March 2005, Volume 8, Issue 1, pp 69-73