המועדון נוסד ב-10 במאי1930. בעונת 1950 המועדון השתתף לראשונה באליפות ברית המועצות והישג השיא היה מקום 4 בעונת 1991 בליגת המשנה הסובייטית. המועדון השתתף בעונת הבכורה של האליפות הרוסית, בה הישג השיא הוא מקום 2 בעונת 2015/2016. בעונת 2008 המועדון זכה באליפות ליגת המשנה הרוסית והוא זכה גם בגביע הרוסי בכדורגל בעונת 2013/2014. בעונת 2016/2017 השתתף בשלב הבתים של ליגת האלופות והישג השיא במפעלים האירופיים הוא ההעפלה לשמינית גמר הליגה האירופית.
מועדון הכדורגל של רוסטוב הוקם במאי 1930, או לפחות זהו הזמן שבו מוזכר המועדון לראשונה כשערך את משחקי הבכורה שלו מול 2 קבוצות שכנות במחוז כאשר סלמאשסטרוי הפסידה בשניהם 2–3.
המועדון נטל חלק לראשונה באליפות הסובייטית בשנת 1950. בתקופת ברית המועצות המועדון שיחק בצילה של קבוצה עירונית אחרת - סק"א רוסטוב. להישגו הראשון הגבוה ביותר בתקופה הסובייטית הגיע רוסטסלמאש ב-1991 כאשר סיים במקום הרביעי בליגת הסובייטית הראשונה האחרונה בתולדותיה (בגלל פירוק ברית המועצות), מה שנתן לו להצטרף לליגת העל הרוסית שנה אחר כך. כבר בעונה הראשונה בליגת העל הקבוצה סיימה מקום 17 מתוך 18 וירדה לליגה הראשונה. תוך שנה שוב חזר המועדון לליגה הבכירה.
רוסטוב השתתפה בעונת הבכורה של ליגת העל הרוסית, ב-1998 הקבוצה סיימה במקום השישי במה שנחשב עד אז להישג הגדול ביותר בתולדות הקבוצה. שנה אחרי היא השתתפה בגביע האינטרטוטו. בחצי הגמר נפלה לקבוצה כיריבה יובנטוס האיטלקית, הגעתם של האיטלקים לעיר גרם להרבה רעש, אך באצטדיון מלא רוסטסלמאש הפסידה 4:0. אותו חצי גמר הפך להישג האירופי הגדול ביותר של המועדון. ב-2000 באותו טורניר הקבוצה לא הצליחה לעבור את אוסר הצרפתית והפסידה 5:1 בסיכום הכולל. אחד ההישגים הגדולים ביותר היה ההעפלה לגמר הגביע הרוסי בכדורגל ב-2003, שם הפסיד לספרטק מוסקבה 1:0.
עונת 2007 הפכה לכישלון ענק בתולדות המועדון, כאשר הקבוצה נצחה רק פעמיים (כאשר הניצחון השני היה במשחק האחרון שלא היה לו כל ערך מבחינת המיקום בטבלה) וסיימה במקום האחרון וירדה ליגה. בתום העונה רוב השחקנים עזבו את הקבוצה, למעשה היא נבנתה מחדש. בעונה 2008 הקבוצה שברה שיא בכך שהפסידה פעם ראשונה רק במחזור ה-25 ובתום העונה הפסידה רק 4 פעמים, בכך היא סיימה במקום הראשון וחזרה לליגת העל. בעונה 2009 המועדון נשאר בליגה, כאשר סיים במקום ה-14, עם זאת הוא הראה מספר משחקים מוצלחים עם מועדוני הצמרת. עונה 2010 רוסטוב סיימה במקום 9.
ב-2011 הקבוצה התחילה טוב את העונה, כאשר ניצחה במחזור הראשון את ספרטק מוסקבה 0:4 ומאוחר יותר קיבלה הזדמנות פז לעלות לגביע גמר המדינה ועם זאת גם לליגה האירופאית, אך הפסידה בחצי-גמר לאלניה ולדיקווקז מהליגה הלאומית. כעבור שנה שוב העפילה הקבוצה לשלב חצי-גמר שם נפגשה עם רובין קאזאן בחוץ. 10 דקות לסיום המשחק כבש סלבטורה בוקטי את השער הראשון במשחק לזכות רובין כאשר הוא נעזר בידו, אך שופט המשחק סירב לפסול את השער, התוצאה נגמרה 0:2 לזכות קאזאן. את העונה הקבוצה סיימה במקום ה-13, כאשר היא נאלצה לשחק צמד משחקי מבחן מול שיניק ירוסלבל שסיימה רביעית בליגה הלאומית וניצחה ב-2 המשחקים 0:3 ו-0:1. סה"כ במהלך כל העונה הוחלפו במועדון 4 מאמנים.
בעונת 2013/2014 הקבוצה זכתה בגביע המדינה ובעונת 2015/2016 הגיעה להישג השיא בתולדותיה בליגה כשסיימה כסגנית האלופה. בעונת 2016/17 רוסטוב הדיחה במוקדמות ליגת האלופות את אנדרלכט ואייאקס והעפילה לראשונה בתולדותיה לשלב הבתים, בו הוגרלה לבית עם באיירן מינכן, אתלטיקו מדריד ופ.ס.וו. איינדהובן וסיימה שלישית אחרי שרשמה ניצחון בית הסטורי על באיירן 2:3, מה שהבטיח לה מקום בפלייאוף הליגה האירופאית, שם גברה על ספרטה פראג בשלב 32 האחרונות והודחה על ידי מנצ'סטר יונייטד בשמינית הגמר אחרי 2 משחקים צמודים (1:1 ו1:0).
בעונת 2019/2020 היו לה סיכויים טובים לסיים כסגנית האלופה, אך לאחר התפרצות נגיף הקורונה ברוסיה מספר משחקניה נמצאו בבדיקת קורונה כנשאי COVID-19 ונמנע מהם לשחק מספר משחקים ובשל רצף הפסדים סיימה חמישית, אותה עונה נזכרה במיוחד בהפסד של רוסטוב 1:10 לסוצ'י, כאשר בעקבות סירובה של סוצ'י להסכים לדחיית המשחק, רוסטוב אולצה לשלוח במקום שחקני הקבוצה הבוגרת את הרכב הנוער.
אצטדיון אולימפ-2 ברוסטוב על הדון הוא מגרש הבית הוותיק של רוסטוב. האצטדיון נבנה בשנת 1930, ונודע בשם אצטדיון רוסטסלמאש על שם מפעל המכונות רוסטסלמאש שמימן את הקמתו. שיפוצים רבים נערכו באצטדיון כשהאחרון שבהם בוצע בשנת 2002, אז נהרס היציע הדרומי שבנייתו המחודשת הסתיימה בשנת 2008. ב-2008 הקבוצה העפילה לליגה הבכירה וסיימה במקום ה-14 בעונת 2009. את עונת 2010 רוסטוב סיימה במקום התשיעי. ב-16 במאי 2010 האצטדיון זכה לארח לראשונה בתולדותיו את גמר הגביע הרוסי בכדורגל והיה האצטדיון הלא מוסקבאי הראשון שאירח את גמר הגביע. האצטדיון אירח מספר קבוצות בכירות כגרמיו הברזילאית, ראפיד וינה האוסטרית, סטיאווה בוקרשט הרומנית, יובנטוס האיטלקית, גלאטסראיי הטורקית ואוסר הצרפתית.
ב-2010 רוסיה הוסיפה את רוסטוב על הדון כאחת הערים שמועמדת לארח את מונדיאל 2018, משום כך הוחלט לבנות אצטדיון חדש בעל קיבולת של 45,000 איש. בניית האצטדיון הסתיימה בשנת 2017. רוסטוב אירחה בו בעונת 2017/2018 שלושה משחקים והאצטדיון אירח כמה משחקים משלב הבתים של גביע העולם ומשמש מאז כמגרש הבית המרכזי[1].
ביוני 2020 פורסם הרכב הבעלים המחזיקים במניות החברה: 51% ממניות החברה נמצאים בידי ממשלת מחוז רוסטוב באמצעות המשרד לענייני אדמות ורכוש. 43.61% בבעלות חברת South Capital בבעלותו של איש העסקים ארטאשס ארוטיוניאנץ[2].
שיאן שערים לעונה - אלכסנדר מאסלוב, 23 שערים - 1996 (הפך מלך השערים של אותה עונה)
אחת מהסדרות הארוכות ביותר בכדורגל הרוסי היא הסדרה ללא ניצחונות של רוסטסלמאש-רוסטוב במשחקים מול לוקומוטיב מוסקבה. אחרי 19 במאי1987 (ניצחון של רוסטסלמאש במוסקבה 1:2) הקבוצה מרוסטוב על הדון ניצחה בפעם הראשונה את לוקומוטיב רק ב-1 באוגוסט 2010 (0:1 במוסקבה).