ילין נולד בשנת 1864 בירושלים למשפחה ירושלמית ונקרא על שם סבו דוד ילין, שעלה מפולין עם משפחתו בשנת 1834. אביו, יהושע ילין, היה ממייסדי שכונת נחלת שבעה, ואמו שֶׂרח הייתה בתו של שלמה יחזקאל יהודה, שעלה עם משפחתו מבגדאד. משפחתו של שלמה יחזקאל יהודה הייתה מהמשפחות המיוחסות בקרב יהודי עיראק. אביו יחזקאל יהודה היה מעשירי הקהילה היהודית בבגדאד וממנהיגי הקהילה היהודית-עיראקית בכלכותה שבהודו. אמו רחל הייתה בתו של רבי משה חיים, רבה הראשי של בגדאד.
בגיל 14 בלבד כתב ילין עיתון משלו בשם "הר ציון", שנכתב בעותק אחד בלבד פעמיים בחודש במשך למעלה משנה, ויצאו ממנו 43 גיליונות. היה זה מעין ניסיון של ילין בעולם ההוצאה לאור. כמו כן כתב בשנת 1878 בעיתון "הלבנון", ולאחר מכן בעיתונים נוספים, ובהם "המגיד" ו"המליץ".[1]
כבר בצעירותו הצטרף לבונים החופשיים בארץ ישראל[2] ונחשב לאורך השנים כאחד הבכירים בארגון. ב־1888 היה אחד ממייסדי בני ברית בארץ ישראל, שהורכב בתחילתו כמעט כולו מבונים חופשיים.
ב־1892 היה אחד ממייסדי מדרש אברבנאל, לימים הספרייה הלאומית של ישראל.
בשנת 1903 ייסד את גן הילדים הראשון שפעל בעברית[4]. באותה השנה השתתף ביוזמתו של מנחם אוסישקין להקים בכנס בזכרון יעקב ארגון כלל־יהודי בשם הכנסייה הארצישראלית. הקמת הארגון הכללי נכשלה, אך בכנס הוקם "איחוד המורים", ששמו שונה לימים ל"הסתדרות המורים". ילין כיהן כנשיא ארגון זה בשלוש שנותיו הראשונות, עד 1906.
בשנים 1920–1929 כיהן כנשיא אספת הנבחרים וכראש הוועד הלאומי. בינואר 1924, השתתף ילין כראש הוועד, עם הראשון לציון הרב יעקב מאיר והקולונל פרדריק קיש, במפגש בעמאן עם חוסיין בן עלי, ובנו עבדאללה, בניסיון ליצור יחסים טובים בין הערבים לציונים. את פרוטוקול הפגישה הסודי כתב ילין, ובפגישה אמר למלך בין היתר: "אנחנו היהודים, היושבים בארץ ישראל והשבים אליה, חפצים כולנו לפתח את הארץ בעבודה משותפת עם הערבים, מפני ששני העמים הם אחים בני אב אחד, אברהם"... "העבודה המשותפת שלנו הייתה גדולה בייחוד בימי הביניים, ימי החושך בארצות אירופה, בשעה שהיהודים והערבים עבדו יחדיו להפיץ את החכמה והמדע. ועתה, בשובנו להחיות את ארצנו, רק רגש אחד ממלא את ליבנו - שנוכל לעבוד את עבודת התחייה בשקט ובמרץ עם אחינו הערבים".[5]
באוקטובר 1937 בימי מאורעות תרצ"ו-תרצ"ט נרצח אבינעם, בנו החמישי. בעקבות מאורעות אלה והתנהלות השלטון הבריטי כלפי היישוב היהודי באותה עת, כתבו דוד ילין ואשתו איטה מכתב אל הנציב העליון בו הסבירו מדוע הם מחזירים את אותות הכבוד שקיבלו בעבר מהממשלה. על כך פורסם למחרת בעיתון "דבר":
פרופ' דוד ילין ואשתו איטה ילין החזירו אתמול לנציב העליון את אותות-הכבוד, שניתנו להם על ידי הממשלה. וזה נוסח מכתביהם אל הנציב העליון: ר' דויד ילין כותב: "אות-הכבוד שניתן לי על ידי הממשלה הזאת אשר נסיבות פוליטיות מכריעות אצלה את הכף כנגד כל רגש של מוסריות ומביאות אותה לתת עזרתה לאלה שהרגו ורטשו לא רק את בני-עמי (בתוכם גם בני התמים!) ובני-עמם אלא גם את אנשי-צבאה ופקידיה היא. אות-כבוד זה נחשב עתה בעיני כאות לא-כבוד והנני משיבו למי שנתנהו לי לפני 21 שנה, בהיות רוח אחרת בממשלת ה. מ. מלך אנגליה המנוח".
מרת איטה ילין כותבת: "הנני רואה עצמי מוכרחה עתה, אחרי הופעת "הספר הלבן", המבטל לגמרי את כל הבטחות ממשלת ה. מ. לעזור לעם ישראל, להקים את ביתו הלאומי בארץ אבותיו, - להשיב לממשלת ה. מ. את האות הזה."[6]
פרופ' דוד ילין הלך לעולמו בשנת 1941 ונקבר בבית הקברות בהר הזיתים. על שמו נקראים מספר מוסדות חינוך ובראשם המכללה בבית הכרם.
משפחה
אשתו איטה הייתה בתו של יחיאל מיכל פינס וגיסו היה יוסף מיוחס. לשניים היו שבעה ילדים - בת בכורה, חמישה בנים ובת זקונים:
ילין היה אישיות מרכזית בהחייאת השפה העברית, והיה פעיל מאוד בחידוש מילים. בניגוד לבן-יהודה, שפנה פעמים רבות לשפה הערבית על מנת להעשיר את השפה העברית - דגל ילין בחידוש עצמאי, או כזה המסתמך על המקורות העבריים העתיקים. פעמים רבות היה מחפש מילה מן המקורות ומחדש את משמעותה, גם אם משמעותה החדשה לא התאימה לזו המקורית. בפרט, עסק ילין במילים יחידאיות בתנ"ך שאין בטוחים בפירושן, דוגמת המילה מנזר שמופעה היחיד הוא בספר נחום, ככל הנראה במשמעות של מלך או של פקיד גבוה בממשל, שחודשה למשמעות של בית נזירים. דוגמאות למילים נוספות שחידש ילין: צלם וצילום (במקום חידושיו של אליעזר בן-יהודה למילים צייר אור וציור אור בהתאמה), בדיחה, חקלאי, מדשאה, מצפן, נדיר, עקיף, קטר, שחקן, תאריך ותעמולה.[7]