גודלו של לגיון טיפוסי השתנה באופן דרסטי לאורך ההיסטוריה הרומית. הלגיון בימיה הראשונים של רומא מנה, לפי המסורת הרומית, כ-3,300 איש. בתקופת הרפובליקה הרומית מנה הלגיון בין 5,000 ל-6,000 חיילים. בתקופת הקיסרות הרומית המוקדמת והאמצעית הוא מנה כ-5,400 חיילים, ובתקופה הקיסרית המאוחרת מנה הלגיון בין 1,000 ל-2,000 איש.
לגיון התחלק לקוהורטות, בדרך כלל ל-10 קוהורטות, ובנוסף להם היו אנשי השירותים, פרשים וארטילריה. הקוהורטה עצמה התחלקה לשש קנטוריות בנות 80 חיילים כל אחת, וכל קנטוריה התחלקה ליחידות משנה שמנו 8 חיילים כל אחת.
כיוון שעד הרפורמות של גאיוס מריוס בסוף המאה ה-2 לפנה"ס לא היווה הלגיון יחידה צבאית סדירה, אלא יחידה שגויסה ופוזרה לפי הצורך, היו קיימים מספר רב מאוד של לגיונות רומיים לאורך ההיסטוריה הרומית.
בתקופת הקיסרות הרומית המוקדמת (בזמנו של אוגוסטוס) היו קיימים כ-28 לגיונות קבע, ולגיונות נוספים גויסו לפי הצורך או על פי היכולת של האימפריה. לשיא הגיע מספר הלגיונות בתקופתו של ספטימיוס סוורוס שהעלה את מספר הלגיונות ל-33.
הלגיונות הורכבו באופן בלעדי ממגויסים שהיו בעלי אזרחות רומאית, אולם בעתות חרום היה אפשרי לגייס ללגיונות חיילים שלא החזיקו באזרחות רומאית ואף ידוע על לגיונות שלמים שהורכבו מחיילים חסרי אזרחות.
בשל הצלחתה הצבאית האדירה של המדינה הרומית, נחשב מבנה הלגיון לאחד המודלים העתיקים המוצלחים ביותר של יעילות ויכולת צבאית.