Počinje se od kvadrata (nulta iteracija) koji se podijeli u 9 sukladnih kvadrata (duljinestranice 1/3 početnog). Srednji se kvadrad oduzme (prva iteracija), a postupak se ponavlja s preostalih 8. Tepih Sierpińskog nastaje nakon beskonačnog broja iteracija.
Trodimenzionalni analogon tepihu Sierpińskog naziva se Mengerova spužva. Dobiva se jednostavnom analogijom gdje se umjesto kvadrata uzimaju kocke. No, ne oduzima se samo središnja od 27 kocaka prve iteracije, nego i još 6 kocaka u središtima strana početne kocke.