Het aartsbisdom werd opgericht op 27 december 1923, als de apostolische prefectuurBenkoelen, uit delen van de apostolische prefectuur Sumatra. Op 13 juni 1939 werd het verheven tot apostolisch vicariaat met de naam apostolisch vicariaat Palembang. Op 3 januari 1961 werd het verheven tot bisdom en was suffragaan aan het aartsbisdom Medan. Op 1 juli 2003 werd het verheven tot metropolitaan aartsbisdom.