יהושע ילין נולד בירושלים בכ"ג בתמוז תר"ג (21 ביולי 1843).[1] הוא היה בנם של ליבה ודוד ילין, להם נולד בירושלים תשע עשרה שנים לאחר הולדת אחותו היחידה חוה, ותשע שנים לאחר עלייתם לארץ־ישראל מלומז'ה, פולין.[2]
בגיל 13 השתדך לשרח, בתו של הפרנסשלמה יחזקאל יהודה, שעלה באותה שנה (1856) מבגדאד והשתייך ליהדות ארצות האסלאם. השידוכים נערכו, למרות שמיזוג בין עדות שונות היה באותם ימים דבר מיוחד ולא שגרתי.[2]
בשנת 1860 קנה אביו של יהושע, דוד ילין בשותפות יחד עם גיסו שאול יהודה כרםזיתים בתחומי הכפר קאלוניה. על אדמות אלה נבנה מאוחר יותר הכפר מוצא. דוד תכנן להקים על אדמות אלה משק חקלאי, אכסניה לעוברי אורח ולתיירים ונופשים. אולם עקב התנכלות הפאשה (פחה) הירושלמי והשייח' השודד של אבו גוש, וכן עקב מצבו של הקונסול הבריטי ג'יימס פין שבו הסתייעו והסתמכו בפיתוח יוזמה זו (אך פין הסתבך בחובות ועזב את הארץ), הפסידו יהושע ושאול כסף רב ולאחר ששילמו את כל החובות לא נותר להם כמעט דבר.
שאול יהודה שקע בדיכאון, חלה ומת בפתאומיות בשנת 1864, בגיל 24. יהושע ילין, שקיבל את ניהול החלקה במוצא לאחר מות אביו, פתח עסק לחלפנות בשותפות עם אחיו המאומץ ליב הורביץ. באותה שנה נולד לשרח ויהושע הבן דוד ילין, על שם אביו דוד ילין (הראשון).
ילין היה מבין שבעת מייסדי השכונה נחלת שבעה. לאחר מספר שנים השתתף בייסוד שכונת אבן ישראל וכן רכש לו שני מגרשים בשכונת מאה שערים עם היווסדה.
בשנת 1872 ניסה יחד עם מספר ידידים להשתתף במכרז לקניית אדמות ביריחו מידי הממשלה הטורקית. ליוזמה יישובית זו הם קראו בשם "פתח תקווה", כאשר נודע לממשל שהמכירה אינה לנתינים עות'מאנים הם ביטלו את המכירה. אמנם ניסיון זה לא התממש אבל מספר שנים לאחר מכן הצליחו לממש יוזמה דומה בייסוד 'אם המושבות' - שנקראה בשם פתח תקווה. יהושע ילין לא הצטרף ליישוב זה ונשאר להתגורר בעיר ירושלים.
בשנת 1872 חכר אדמות בשותפות עם בנימין סלנט ויצחק גולדשמידט באמצעות קשרים עם בדואים בעבר הירדן, על מנת לגדל תבואה על אדמה זו. באותה שנה נולדה לו בתו רחל מסעודה. לאחר כשנתיים, עקב פרישת שותפיו, פרש גם הוא מיוזמה חקלאית זו, אך המשיך לשמור על קשריו עם הבדואים של האזור.
בשנת 1881 נסע יהושע ילין להודו, כדי לבקר את קרוביה העשירים של אשתו, משפחת דוד ששון. כשחזר, נכנס לשותפות עם נפתלי ליאון והקימו עסק לחלפנות ולמכירת טבק, כמו כן סחר בעורות במשך מספר שנים.
באותן שנים שימש גם כנציגו של הקונסול הבריטי בבית הדין לענייני מסחר של השלטון הטורקי.
אברהם יערי, זכרונות ארץ ישראל, מזכרונות יהושע ילין. פרק יג: גידול היישוב היהודי בירושלים, עמ' 150–178; פרק יז: השכונות הראשונות בירושלים מחוץ לחומה, תרכ"ט–תרל"ח (1869–1878); פרק יח: משא־ומתן על קניית אדמת יריחו, תרל"ב (1872), עמ' 194–207.