Ab 1825 studierte er Mathematik, Physik und Philosophie in Halle bei Johann Salomo Christoph Schweigger.
Nachdem er sich bis 1829 noch für keinen Beruf entschieden hatte, wurde ihm durch die Bemühung von Freunden eine Stelle als Lehrer der Naturwissenschaften an einer höheren Mädchenschule in Berlin angeboten. Nun vertiefte er die nächsten Jahre seine mathematischen Kenntnisse und erwarb 1834 an der Universität Jena die Doktorwürde. Eine Staatsprüfung hat er nicht abgelegt. Auf Empfehlung von Freunden übertrug der Direktor des Friedrichwerderschen Gymnasiums in Berlin ihm eine Lehrstelle für Mathematik und Physik. 1841 wurde er Professor am Friedrich-Wilhelm-Gymnasium und erhielt 1843 zusätzlich einen Lehrauftrag an der Allgemeinen Kriegsschule. Außerdem wurde er Mitglied der wissenschaftlichen Prüfungskommission. Auch am Gewerbeinstitut und an der Artillerieschule erteilte er Unterricht.
Er leitete das 1855 gegründete mathematisch-pädagogische Seminar, das den Zweck hatte, junge Mathematiker in die schwierige Kunst des Unterrichtens einzuführen.
Um 1860 hatte er in Preußen erreicht, dass in den oberen Gymnasialklassen die mathematischen und physikalischen Wissenschaften gleichberechtigt mit den alten Sprachen unterrichtet wurden. Den aufkommenden Widerstand überdauerte sein mathematisch-pädagogisches Seminar nicht.
Felix Müller: Karl Schellbach. Rückblick auf sein wissenschaftliches Leben. In: Abhandlungen zur Geschichte der mathematischen Wissenschaften mit Einschluss ihrer Anwendungen, 1905, Band 20, Nr. 1. S. 3–40. Digitalisat Univ. Heidelberg
Karl Schellbach: Über Wert und Bedeutung der Mathematik. Vortrag gehalten am 15. März 1845 im Wissenschaftlichen Verein zu Berlin. (Digitale Ausgabe. Univ. Heidelberg, 2013)