Laulun tulkitsi Anni-Frid Lyngstad. Aihepiiriltään kappale olikin ensimmäisiä merkkejä Abban tyylillisestä aikuistumisesta. Tummasävyinen kappale kertoo pariskunnasta, joka myöntää eronsa olevan väistämätön, ja se on yhtyeen ensimmäisiä kappaleita, jonka teemana on ero. Myöhemmin Abbalta ilmestyi muitakin samaan aihepiiriin kuuluvia kappaleita, kuten ”The Winner Takes It All” ja ”One of Us”.
”Knowing Me, Knowing You” levytettiin Arrivalin kappaleista ensimmäisenä. Sen teko aloitettiin 23. maaliskuuta työnimellä ”Ring It In”. Abban jäsenistä Benny Andersson soitti sähköpianoa ja Björn Ulvaeus mahdollisesti hieman kitaraa. Sessiomuusikkoina toimivat Janne Schaffer (sähkökitara), Rutger Gunnarsson (basso), Ola Brunkert (rummut) ja Malando Gassama (lyömäsoittimet). Työnimi vaihdettiin muotoon ”Number One, Number One”, kunnes yhtyeen manageri Stig Anderson keksi lopulliseksi nimeksi ”Knowing Me, Knowing You”. Aiemmin Andersonin merkitys Abban laulujen sanoittajana oli ollut lähes yhtä suuri Björn Ulvaeuksen ja Benny Anderssonin kanssa, mutta vuoden 1976 aikoihin hän useimmiten keksi ainoastaan laulun nimen, ja vuoden 1977 jälkeen hän ei osallistunut yhdenkään kappaleen tekemiseen.[1]
Björn Ulvaeuksen tapana oli tehdä sanoitukset niin, että hän kuunteli kappaleen raakamiksausta uudelleen ja uudelleen, keksien sitten tunnelmaan sopivat sanat. ”Knowing Me, Knowing Youn” tapauksessa keskinopea tempo ja vaihtelut duurin ja mollin välillä saivat hänet kehittämään tarinan, jossa pariskunta myöntää eronsa olevan väistämätön. Kappaleen on useaan otteeseen sanottu kertovan Abban jäsenten omasta elämästä, vaikka todellisuudessa heidän eronsa tulivat ajankohtaisiksi vasta vuosia myöhemmin. Björn Ulvaeus on kertonut, että hänen oli vain tarkoitus ottaa uusi askel sanoittajana. Toisaalta hän on myös myöntänyt, että hänellä saattoi olla ennakkoaavistus tulevasta. Kappaleen on sanottu olevan teemaltaan ensimmäisiä merkkejä Abban tyylillisestä aikuistumisesta.[1]
Kappaleen draaman ja tummasävyisyyden vuoksi ”Knowing Me, Knowing Youn” tulkitsi Anni-Frid Lyngstad, jolle näistä aihepiireistä laulaminen kävi luonnostaan. Agnetha Fältskog lauloi pelkkiä taustoja – hän esimerkiksi toisti Lyngstadin perään laulun sanoja: memories, good days, bad days.[1]
24. toukokuuta kitaristi Lasse Wellander lisäsi kappaleeseen uusia osia. Se on samalla viimeinen tiedossa oleva äänityspäivä.[1]
Kappaleen ensimmäinen promovideo kuvattiin kesällä 1976 Tukholman saaristossa. Se esitettiin tv-spesiaalissa Abba-dabba-doo!!, ja on sittemmin julkaistu Arrival-albumin Deluxe-painoksella. Vuodenvaihteessa 1976–77 kuvattiin Lasse Hallströmin ohjaama promovideo ruotsalaisessa talvimaisemassa. Tämä versio on julkaistu lukuisilla DVD-levyillä, kuten The Definitive Collection, Abba Gold ja Number Ones.[1]
Benny Andersson on kertonut, että ”Knowing Me, Knowing You” on eräs hänen suosikkejaan Abban materiaalista.[1]