גולדשטיין נולד ב-1947 בטרנסילבניה שברומניה ועלה לישראל עם משפחתו ב-1958. הוא למד באקדמיה לאמנות בצלאל בין השנים 1966 ל-1969 ובאקדמיה לאמנות יפה במילאנו, איטליה (Accademia di Belle Arti) בין השנים 1969 ל-1972. לאחר שהייה של עשר שנים במילאנו חזר ב-1978 לישראל.
עבודותיו נכללות באוספי אמנות מרכזיים בארץ ובעולם ובכללם מוזיאון תל אביב, מוזיאון ישראל ומרכז פומפידו שבצרפת. ב-2010 השתתף בתערוכה "שלושה אמנים, אוסף אחד" לרגל פתיחתו המחודשת של מוזיאון ישראל, שבה התבקשו אמנים לאצור תערוכה מכל אוספי המוזיאון. התערוכה שאצר, תחת הכותרת "רדוף חפצים", כללה כ-400 חפצים מלווים ב-62 קטעי שירה ופרוזה מספרו של גולדשטיין "Room 205#" אשר יוצרים ביניהם קשרים אסוציאטיביים.
ב-2004 יצא לאור הרומן שלו בשפה האנגלית "על נייר", בהוצאת הספרים הגרמנית ולטר קניג. כמו כן הוציא בהוצאה ספר שירים באנגלית, "Room 205#".
ב-2008 זכה בפרס מפעל חיים בתחום האמנות הפלסטית בישראל מטעם משרד המדע, התרבות והספורט. בהחלטת השופטים נאמר, "הענקת הפרס לגולדשטיין מהווה הכרה ציבורית והוקרה לא רק לפועלו הפרטי ולאמירה ערכית רבת משמעות, אלא גם לפועלו בהוראה: 30 שנותיו כמורה משפיע במחלקה לאמנות בבצלאל ביססו את מעמדו של גולדשטיין כ'נוכחות' בשדה האמנות הישראלית".
