Von Martensin vanhemmat olivat baltiansaksalaista sukua olevat todellinen valtioneuvosFriedrich Julius Martens ja Mary Alice Julie Fremmert. Friedrich Martens toimi lääkärinä Venäjän laivaston palveluksessa Viaporin linnoituksessa. Perheessä oli viisi poikaa: Arvid, 1904 syntynyt Hugo, 1905 syntynyt Hans sekä nuorimmat veljet Werner ja Leo. Vaikka Martensin perhe kuului baltiansaksalaiseen aateliin, se ei tuolloin vielä käyttänyt von-etuliitettä.
Suomen itsenäistyttyä Friedrich Martens menetti virkansa mutta koska hän oli hankkinut Suomen kansalaisuuden perhe sai jäädä Suomeen. Perhe menetti kuitenkin varojaan Privatbankenin konkurssissa ja joutui muuttamaan pienempään asuntoon sekä tulemaan toimeen omaisuuden myynnistä saaduilla rahoilla. Friedrich Martens aikoi perustaa oman lääkärinvastaanoton sekä lepokodin mutta syöpään sairastuminen esti nämä suunnitelmat. Hän kuoli 60-vuotiaana vapunaattona 1922. Arvid von Martens joutui lopettamaan koulunkäynnin ylioppilastutkintoa suorittamatta ja hän työskenteli sitten aluksi Valtion rautateiden palveluksessa Pasilassa sekä sitten vuosina 1921–1929 konttoristina Suomen Höyrylaiva Oy:n konttorissa. Samaan aikaan hän liittyi Pelastusarmeijaan ja toimi 1922–1929 Pelastusarmeijan sotilaana. Vuodesta 1929 lähtien Arvid von Martens siirtyi kokonaan Pelastusarmeijan palvelukseen, kävi Pelastusarmeijan kadettikoulun 1929–1930 ja toimi sitten Pelastusarmeijan upseerina. Hän tutustui Pelastusarmeijassa tulevaan vaimoonsa Kate Armida Nymaniin ja he menivät naimisiin 1929. Perheeseen syntyi kaksi poikaa Paul (1930–2017) ja Peter (1932–1983) sekä kaksi tytärtä Margret (s. 1935) ja Heidi (s. 1944).
Arvid von Martens toimi yhdessä vaimonsa kanssa Pelastusarmeijan upseerina ensin Turussa, sitten Kristiinankaupungissa 1931–1933, Karjaalla 1933–1935 ja Sipoossa 1935–1937. Hän erosi maaliskuussa 1937 Pelastusarmeijan upseerin toimesta koska koki ettei voinut työskennellä haluamallaan tavalla ja hän toimi sitten vapaana evankelistana seuraavat neljä vuotta. Von Martens teki evankelioimistyötä Helsingin seudulla ja teki myös kokousmatkoja Suomen ruotsinkielisille alueille. Hän perusti useita rukouspiirejä ja sai vaikutteita Kenwick- ja Oxford-liikkeeltä.
Talvisodan aikana aseistakieltäytynyt von Martens oli lyhyen aikaa vankilassa ja sen jälkeen työpalveluksessa kurikomppaniassa Turussa. Jatkosodan aikana hän toimi aluksi kirjurina ja sen jälkeen venäjän ja saksan kielen taitonsa ansioista tulkkina siviilisotavankien leirillä Miehikkälässä. Huhtikuusta 1942 alkaen von Martens oli keittiömiehenä ja apukirjurina Koulutuskeskus 6:ssa Kouvolassa. Hän sai Kouvolassa ollessaan tilaisuuden myös parantaa heikkoa suomen kielen taitoaan ja harjoitti siellä myös evankelioimistyötä.
Von Martens tuli Helsingin evankelis–luterilaisten seurakuntien diakoniakeskuksen palvelukseen katulähetystöntekijäksi juhannuksena 1944. Sodan päätyttyä Helsingissä vallitsi syksyllä 1944 huutava asuntopula. Kaikille ei riittänyt tilapäistä majoitusta edes parakeissa tai Pelastusarmeijan yömajoissa ja niinpä Helsingin kaupunki avasi vuoden 1945 alussa kahdeksan kallioon louhittua väestönsuojaa asunnottomien yöpymispaikoiksi ja nämä suojat olivat käytössä vuoteen 1954 saakka. Monet asunnottomista olivat kotiutettuja sotilaita joilla oli usein alkoholi– ja muita ongelmia. Näiden ihmisten parissa von Martens aloitti työnsä. Hän vieraili myös sairaaloissa ja Katajanokan sekä Sörnäisten vankiloissa. Hän oli järjestämässä myös tilapäisiä majoitustiloja asunnottomille seurakuntien omistamiin tiloihin muun muassa Mikael Agricolan ja Johanneksenkirkon alla oleviin kryptiin. Katulähetys perusti myös kaksi veljeskotia miehille ja yhden kodin naisille.
Vuonna 1950 von Martens perusti Kovaosaisten Ystävät ry.-nimisen yhdityksen jonka tarkoituksena oli järjestää pysyvämpiä asuntoja Helsingin asunnottomille. Yhdistys sai lainaa Helsingin kaupungilta ja osti sen turvin 1951 asunnottomien käyttöön huoneiston Kalevankatu 19:ssä sijainnesta vuonna 1877 rakennetusta nelikerroksisesta asuintalosta. 1950-luvun kuluessa asuntola laajeni käsittämään koko talon. Nykyisin talossa toimii Martensin mukaan nimensä saanut Arvid-koti jossa asuu noin 50 miestä 35 huoneessa. Von Martensin johdolla yhdistys perusti 1950- ja 1960-luvulla asuntoloita myös kodittomille naisille, häädetyille perheille sekä tuberkuloosia ja epilepsiaa sairastaville. Asuntopula jatkui edelleen kovana 1960–luvulla Helsingin seudulla muun muassa voimakkaan muuttoliikkeen takia.
Arvid von Martens oli Kovaosaisten Ystävät ry:n toiminnanjohtajana 1950–1972 ja hän toimi vielä yhdistyksen hallituksen puheenjohtajana vuoteen 1977 saakka. Hän oli Helsingin kaupunginvaltuutettuna 1953–1972 edustaen Ruotsalaista kansanpuoluetta. Vuonna 1954 hän aloitti Helsingin A-messuhallissa pidettyjen kodittomien joulujuhlien viettämisen ja vastasi näiden juhlien järjestämisestä aina vuoteen 1972 saakka. Tämän jälkeen tätä perinnettä ovat jatkaneet Veikko Hursti ja hänen poikansa Heikki Hursti.
Vielä eläkevuosinaankin von Martens osallistui aktiivisesti yhteiskunnalliseen keskusteluun erityisesti kun oli kysymys asunnottomuudesta ja alkoholiongelmista.
Teoksia
Gud hör bön: En nattmissionär berättar. Borgå stifts ungdomsförbund, kyrkans ungdoms förlag, Helsingfors 1947.
Rukousvastauksia: katulähetyksen työntekijä kertoo. Kuva ja sana, Helsinki 1947.
Lähimmäisesi – jumalasuhteesi koetinkivi. Aikamme kysymyksiä 9. Suomen kirkon sisälähetysseura, Pieksämäki 1948.