יערי יצא לקורס מפקדי צוותים, המשיך לקורס קצינים, וחזר לפקד על יחידת הסירות של השייטת. בקיץ 1975 פיקד על כוחות לוחמים במבצע לחיסול יעדי מחבלים באזור צור שבלבנון. ב-1976 עבר קורס חובלים והוסמך כקצין משמרת. בהמשך פיקד על ספינת הטילים אח"י געש, ספינת סער מדגם סער 3. ב-1980 מונה לסגן-מפקד שייטת 13, ובמסגרת תפקידו זה פיקד על מבצע להטבעת אוניית מחבלים בנמל צור ועל מבצעים נוספים. במבצע שלום הגליל (1982) פיקד יערי על כוחות שייטת 13 ששימשו ככוח המקדים לנחיתתחטיבת הצנחנים בשפך נהר האוואלי.[4] בהמשך המלחמה פיקד על כוחות בפשיטה על יעדי מחבלים בביירות.
בנובמבר 1983 מונה למפקד שייטת 13, בדרגת סא"ל. הוא נכנס לתפקידו בשיאו של לחץ שהופעל על מחבלים באזור טריפולי שבלבנון ומיד נדרש לביצוע פעולות יזומות בגזרה זו. ביוני 1984 השתתף בעצמו בפעולה באי הארנבות מצפון לנמל טריפולי, ונפגע באורח קל. באפריל1985 פיקד על לוחמי השייטת במבצע דרך נץ, במהלכו טובעה הספינה "מון לייט" בנמל ענאבה שבאלג'יריה.[5]
עם סיום תפקידו כמפקד השייטת ב-1986 יצא ללימודים באוניברסיטת חיפה ובאקדמיית הצי האמריקאי. ב-1988 מונה לראש פרויקט ברפאל. ב-1990 מונה לראש מספן המודיעין (ר' מד"ן) בחיל-הים, בדרגת אל"ם. ב-1994 מונה למפקד בסיס חיפה בדרגת תא"ל. לאחר רצח ראש הממשלהיצחק רבין הוזעק יערי לשב"כ על ידי חברו לשייטת עמי אילון, כדי להשתתף בצוות שינסח תורת אבטחה חדשה לראש הממשלה. ב-1997 מונה לסגן-מפקד חיל-הים.
ב-2000 קודם יערי לדרגת אלוף ומונה למפקד חיל-הים. הוא שימש בתפקיד זה כמעט חמש שנים, ובתקופתו עלה החשש כי לוחמי השייטת שצללו בנחל קישון חלו בסרטן בשל החומרים המסוכנים המנוקזים אליו. אף על פי שצה"ל הכחיש את הקשר בין הצלילות בקישון לבין מחלתם של כמה מיוצאי היחידה, החליט יערי להפסיק את הצלילות ה"לא-חיוניות" בנחל, והתנה את קיומן באישורו האישי.[6] בתקופת כהונתו נלכדה ספינת המחבלים קארין איי.[7]
במהלך מילוי תפקידו כמפקד חיל-הים התבטא יערי מספר פעמים בנוגע ללחימה מול הפלסטינים ובנושאים אחרים הנושקים לתחום המדיני. כך, בדצמבר 2002 קרא להרחיב את המלחמה בטרור, ולסמן כמטרות לגיטימיות במאבק גם את המורים והמנהיגים הרוחניים הנוקטים בשיטות של הסתה.[8] יערי אמר שלישראל יש קושי להתמודד עם איומים שאינם כוללים אלמנטים של מלחמה כוללת - לוחמה אווירית ולוחמה קרקעית, שכן תפיסת הביטחון שלה מבוססת על עוצמה בזירות אלו. יערי קרא לפיכך להגביר את המשקל שניתן ללוחמה ימית שכן בזירה זו, בשונה מלחימה קרקעית או אווירית, קיימות פחות מגבלות על טווח הפעולה, וניתן להפעיל פלטפורמות שיכולות להגיע ליעדים מרוחקים. כשנה מאוחר יותר, בריאיון לסוכנות הידיעות רויטרס, העריך שככל שיתקדם התהליך המדיני, יגדל משקלו של חיל-הים בביטחון המדינה: "על-פי מפת הדרכים שהתקבלה, הטריטוריה הנתונה לשליטתנו תקטן. כוח ימי שיימצא מחוץ לאזור המאוים, יהווה גיבוי הכרחי לביטחון הלאומי".[9]
בספטמבר 2004 השתחרר יערי מצה"ל לאחר 39 שנות שירות, וזמן קצר לאחר-מכן מונה למנכ"ל רפאל - רשות לפיתוח אמצעי לחימה.[11] על מינוי זה (שאושר על ידי שר הביטחון שאול מופז) נשמעה בתחילה ביקורת, בעיקר בשל היותו של יערי איש-צבא,[12] אולם בתקופתו כמנכ"ל הצליחה החברה (שהפכה ב-2002 מיחידת סמך במשרד הביטחון לחברה ממשלתית) מבחינה עסקית.[13] אחד מהישגיה הבולטים של החברה הוא פיתוח וייצור של מערכת "כיפת ברזל". באפריל 2015 הודיע יערי על רצונו לפרוש מתפקידו. במאי 2015 השעה עצמו מתפקידו על רקע מחלוקות עם משרד הביטחון.[14]
במהלך מלחמת לבנון השנייה בקיץ 2006 השמיע יערי ביקורת על אופן הלחימה בה נוקט צה"ל: יערי ביקר בראיון את "תפיסת המנופים" של צה"ל שלא מתמודדת עם המחבלים בשטח, ובמקום זאת מפעילה לחץ על שולחיהם. הוא שלל את ההנחה שחיל האוויר מסוגל להכריע את המלחמה בעצמו, וטען שצה"ל צריך היה להגיע לנהר הליטני כבר לאחר שבועיים של לחימה. לאחר המלחמה מונה יערי על ידי ראש הממשלה אהוד אולמרט להיות חבר בוועדת הבדיקה הממשלתית שמינה, לבדיקת תפקודו של הדרג המדיני במהלך המלחמה (בראשות ראש המוסד לשעבר נחום אדמוני).[15] המינוי נפסל על ידי היועץ המשפטי לממשלהמני מזוז כשבוע לאחר-מכן, מחשש לניגוד עניינים (בהתייחס לתפקידו של יערי כמנכ"ל רפאל - מערכות לחימה מתקדמות בע"מ).[16]
בתחילת 2009 נבחר יערי לעמוד בראש ועדה לבחינת ישימות הצעת עיריית חיפה להקמת מבנה הפולינום בנמל המזרחי.[17] ועדת יערי הגישה את המלצותיה ביולי 2009.[18]