פנחס ברוך (פאבל) אקסלרוד נולד במשפחה יהודית של בעל פונדק דרכים. המשפחה עברה ממקום למקום, ויום ומקום לידתו המדויק נשכחו; באוטוביוגרפיה שלו נכתב שנולד בסביבות שנת 1850 או מוקדם יותר באחד הכפרים בסביבות צ'רניגוב – אז בתחום המושב של האימפריה הרוסית, בדרום האימפריה (כיום אוקראינה). בשנת 1859 התיישבה המשפחה בשקלוב, בסביבת מוגילוב. בשנת 1863 החל אקסלרוד ללמוד בתיכון של מוגילוב וסיים אותו בהצלחה. בתקופה זו הוא היה בקשר עם יהודים בלבד. אקסלרוד התקרב לתנועת ההשכלה של אותם הימים.
בשנת 1872 התקבל אקסלרוד לאוניברסיטת קייב. במסגרת לימודיו הוא קרא את עבודותיו של פרדיננד לסל. כתוצאה מכך התגבשה אצלו הדעה שסוגיית היהודים יכולה להיפתר רק במסגרת פתרון בעיית הפועלים, וכתוצאה מכך, החל להתקרב לחוגי המהפכנים.
בקיץ 1874 השתתף אקסלרוד ב"הליכה אל העם" (хождение в народ): הוא עבר מכפר לכפר בסביבות פולטבה, צ'רניגוב ומוגילוב והפיץ תעמולת דעות מהפכניות. בסוף הקיץ התחילו המעצרים; הוא נעצר, אך הצליח לברוח מחוץ לגבולות רוסיה. שמו הוזכר לא פעם במהלך משפט 193, מה שנתן לו מוניטין בין הנרודניקים.
לאחר שעזב את רוסיה, התגורר אקסלרוד תחילה בברלין, ובשנת 1875 עבר לז'נבה. שם התקרב לקבוצת מהפכנים שהוציאו לאור ביטאון. בתיאום איתם, בסוף 1875 שב אקסלרוד לרוסיה – תחילה לדרום המדינה ואחר כך עבר לסנקט פטרבורג. בעיר זו הכיר את מארק נתנסון, סופיה פרובסקאיה וגאורגי פלכנוב. הקבוצה החליטה להוציא לאור ביטאון חדש, אשר יצא לאור בשנים 1878–1879, ובו פורסמו מאמרים רבים של אקסלרוד.
במקביל, הגיע אקסלרוד למסקנה ש"הליכה אל העם" הייתה ניסיון כושל. בהדרגה השתנו דעותיו, והוא התרחק מדעות הנרודניקים.
בשנת 1880 החל גל מעצרים, ואקסלרוד נמלט לרומניה ואחר כך עבר לז'נבה. בעיר זו הוא שיתף פעולה עם העיתון הרוסי "ווֹלְנוֹיֶה סְלוֹבוֹ" (Вольное слово), ופרסם מספר מאמרים.
בספטמבר 1883, ביחד עם גאורגי פלכנוב ואחרים, היה אקסלרוד בין מייסדי "שחרור העמל" (Освобождение труда) – ארגון מרקסיסטי ראשון של מהפכנים רוסים.
בסתיו 1884 התחילה הקבוצה להוציא לאור סדרת ספרים תחת הכותרת "ספריית הפועלים" ("Рабочая библиотека"). הספר הראשון בסדרה היה פרי עטו של אקסלרוד: "תנועת הפועלים וסוציאל-דמוקרטיה" (Рабочее движение и социальная демократия), ובו הציג את עקרונות המרקסיזם. אקסלרוד היה בדעה שתפיסת השלטון על ידי מעמד הפועלים אינה יכולה להיעשות ללא מאבק מזוין – אך זה יכול להתרחש רק לאחר הכנה ממושכת, כולל עבודה בפרלמנט של מפלגת הפועלים.
בשנים 1891–1892 הורגשה התעניינות מחודשת של החברה הרוסית בדעות מהפכניות. אקסלרוד רצה לאחד את כל התנועות הליברליות של הרוסים, שכללו קבוצות שישבו בפריז, לונדון, ז'נבה ועוד. הניסיון לא היה מוצלח, אך הצליח להוציא את ארגונו "שחרור העמל" מבדידותו. החל משנת 1899 היה אקסלרוד נציג של הארגון באינטרנציונל השני.
במקביל לפעילות מהפכנית, הצליח אקסלרוד להתפרנס: הוא הקים מפעל לייצור מוצרי חלב, שפעל בשווייץ. המפעל פעל בבעלותו כ-20 שנים ונמכר בשנת 1908.
הוא היה בין מנהיגי המנשביקים. בשנת 1905 הוא התנגד לצורך בדיקטטורה של הפרולטריון ואיכר, והיה נגד חרם של הבחירות לדומה הראשונה. בוועידת סטוקהולם של המפלגה (1905) התנגד אקסלרוד לדעות הבולשביקים, וציין את הנזק שדעות אלה עשויות להביא לקידום המהפכה. הוא גם היה בעד פירוק הארגון המחתרתי והקמת מפלגה לגאלית ברוסיה. בשנת 1912 הוא נבחר לוועד המארגן של המפלגה החדשה שהייתה צפויה לאגד את כל המנשביקים.
לאחר מהפכת פברואר שב אקסלרוד לרוסיה. הוא ציין שהמהפכה שהתרחשה היא מהפכה בורגנית, אך שיש לתמוך בממשלה החדשה. הוא היה בעד התרחבות של הפעילות הלגאלית. הוא נבחר לוועד הפועל של סובייט פטרוגרד.
אקסלרוד פעל להקמת מפלגה חדשה של המנשביקים, ונבחר לחבר הוועד המכונן. מסיבות בריאותיות עזב את רוסיה, אך בוועידת המפלגה באוגוסט 1917 נבחר ליו"ר המפלגה וראש הנציגות שלה בחו"ל.
אקסלרוד התנגד נחרצות למהפכת אוקטובר. בקיץ 1918 הוא ציין שתפיסת השלטון על ידי הבולשביקים היה פשע בקנה מידה שלא יתואר. הוא התנגד לכל ניסיון לתת לגיטימציה למשטר החדש ברוסיה; זאת בניגוד לעמדות של מנהיגי המפלגה אחרים והחלטות וועידת המפלגה שהתקיימה בדצמבר 1917. בוועידה זו הוא נבחר כחבר בוועד המרכזי (המוסד העליון של המפלגה); ואולם בוועידת המפלגה שהתקיימה בשנת 1918 הוא הוצא מהוועד.
בשנת 1921 כתב אקסלרוד מכתב להנהגת המפלגה, ובפרט ליוליוס מרטוב. במכתב זה הוא התנגד נחרצות ל"אגדות על השליחות הגדולה של הבולשביקים". מכתב זה התפרסם רק בשנת 1923, וזכה לתהודה גדולה.
