Bei den Kongresswahlen des Jahres 1920 wurde der republikanische Kandidat Charles F. Van de Water im neunten Wahlbezirk von Kalifornien in das US-Repräsentantenhaus in Washington, D.C. gewählt. Da dieser aber noch vor dem Beginn der Legislaturperiode bei einem Autounfall tödlich verletzt wurde, wurde eine Nachwahl notwendig, die Lineberger gewann. Nach zwei Wiederwahlen konnte er zwischen dem 11. April 1921 und dem 3. März 1927 im Kongress verbleiben. Im Jahr 1926 verzichtete er auf eine erneute Kandidatur. Stattdessen bewarb er sich erfolglos um die Nominierung seiner Partei für die Wahlen zum US-Senat. Danach zog er sich aus der Politik zurück. Er starb am 9. Oktober 1943 in Santa Barbara, wo er auch beigesetzt wurde.