Jemeno herbe vaizuojamas erelis, laikantis dvi Jemeno vėliavas ir popieriaus ritinį. Ant ritinio arabų kalba parašytas Jemeno respulbikos pavadinimas الجمهورية اليمنية. Ant erelio krūtinės yra skydas, kuriame vaizduojama Maribo užtvanka ir kavamedis.
Nuo 1945 iki 1990 m. Jemenas buvo padalintas į dvi dalis. Šiaurinės dalies herbas buvo labiau panašesnis į dabartinė, o pietinės Jemeno dalies herbe buvo auksinis erelis – tokius herbus iki šiol naudoja Egiptas, Irakas ir Sirija.