Харви Кайтел е роден на 13 май 1939 година в нюйоркския район Бруклин. Родителите му Мириъм и Хари Кайтел са емигранти от Румъния и Полша с еврейски произход.[2][3] Те притежават малко заведение за бързо хранене. Баща му работи и като майстор на шапки.[2][4]
Кайтел израства със сестра си Рене и брат си Джери в Брайтън Бийч – квартал в Бруклин. Като ученик посещава гимназията „Ебръхам Линкълн“. На 16-годишна възраст решава да се присъедини към американския морски пехотен корпус, което го отвежда за известно време по служба в Ливан. След завръщането си в САЩ, той работи като съдебен репортер и е напълно способен да осигурява издръжката си още преди започването на актьорска кариера.
В периода 1982 – 1993 година, Кайтел поддържа връзка с актрисата Лорейн Брако, станала по-късно известна с ролята на психиатъра д-р Дженифър Мелфи в телевизионния сериал Семейство Сопрано. Двамата имат дъщеря Стела, родена през 1985 година. През 2001 година се ражда синът му Хъдзън от връзката с Лиза Кармазин. Пак през 2001 година сключва брак с актрисата Дафна Кастнър, от която има син Роман, роден през 2003 година.
Харви Кайтел е кръстник на Макс – син на близкия му приятел Майкъл Мъдсън.
