Smith wurde als Demokrat das erste Mal im Jahre 2000 in den Senat gewählt und im Januar 2007 zum Oppositionsführer (Minority leader). Nach den Wahlen von 2008, wo die Demokraten eine Mehrheit im Senat erhielten, erklärte er sich bereit, der erste afroamerikanische Senatsmehrheitsführer in New York zu werden. Allerdings deuteten drei demokratische Senatoren an, dass sie nicht für Smith stimmen würden wegen seiner Unterstützung einer Gesetzesvorlage, die gleichgeschlechtliche Ehen legalisiert, und ließen den Ausgang strittig.[1] Im frühen Dezember schien die Führungfrage gelöst gewesen zu sein, so dass Smith President pro Tempore wurde[2] und der dritte kommissarische Vizegouverneur (nach Joe Bruno und Dean Skelos), da David Paterson nach dem Rücktritt von Eliot Spitzer neuer Gouverneur von New York wurde. Jedoch platzte die Abmachung einige Tage später aufgrund Smiths Nein über die „betreffenden Bürgerrechtsthemen zu verhandeln.“[3][4] Allerdings stimmten am 7. Januar alle 32 Demokraten für Smith.
Malcom Smith plante sich 2013 für die Republikanische Partei für das Amt des Bürgermeisters von New York und als Nachfolger Michael Bloombergs aufstellen zu lassen. Im April 2013 wurde er festgenommen, da er Schmiergelder verwendet haben soll, um sich einzukaufen.[5]
Smith ist römisch-katholisch und verheiratet. Ferner wurde er 2006 von einer früheren Angestellten bezüglich einer Vaterschaft verklagt.[6]