Во время Великой Отечественной войны немецкие войска, занявшие Киев 19 сентября 1941 года, использовали Бабий Яр как место массовых расстрелов.
Первый расстрел произошёл 27 сентября 1941 года — были расстреляны 752 пациента психиатрической больницы им. Ивана Павлова, которая находилась в непосредственной близости к оврагу. Точное место расстрела неизвестно.