את מגדל המים תכנן היינריך אוגוסט מייסנר, מהנדס ומומחה בבניית מסילות רכבת ממוצא גרמני. המבנה עשוי אבן, הוא אליפטי בצורתו ומתנשא לגובה של שתי קומות. בקומתו הראשונה שכנו המשאבות, ובשנייה ניצבו דוודי המים שהזדקרו מעל המבנה. המים למגדל הוזרמו ממי באר בעיר. המגדל הוקם במקום בו הסתעפה מהמסילה הטורקית לדרום, מסילה צדדית שהובילה לעבר דפו ומספר מחסני צבא. המיקום אפשר למלא במים את קטרי הרכבות שנסעו צפונה לעבר מרכזה של ארץ ישראל ודרומה לכיוון חצי האי סיני.
במהלך מלחמת העולם הראשונה הפציצו מטוסי חיל האוויר הבריטי את מגדל המים מספר פעמים, אך לא הסבו לו נזק, והוא המשיך ושימש לייעודו המקורי לאחר כיבוש הארץ בידי הבריטים. לאחר שהתחנה נסגרה ב-1927, שימש המבנה את התחנה הווטרינרית הסמוכה לו ומספר צרכנים נוספים, ועם הקמת באר שבע העברית סיפק את צריכת המים של העיר כולה. לאחר שנבנתה בריכת מים חדשה בשכונה א' בשנת 1950, ננטשה המערכת הישנה והמגדל יצא מכלל שימוש. כיום ניצב המגדל בלב שכונת מגורים ולצידו הוכשר גן שעשועים.
