Второй Крестовский переулок расположен в Мещанском районе на территории Центрального административного округа города Москвы. Это единственный оставшийся из трёх существовавших ранее Крестовских переулков. Так они были названы в 1922 году по бывшей Крестовской заставе Камер-Коллежского вала. Застава же (ранее называвшаяся Троицкая) получила имя в XVIII веке по стоявшей возле неё часовне, где с 1652 года находился крест (поставлен в честь встречи мощей святого Филиппа), возле которого постоянно толпились богомольцы, отправляющиеся в Троице-Сергиеву лавру. Позднее крест был водружён на самой заставе. До 1922 года — Малый Знаменский переулок (не путать с одноимённым существующим переулком), по церкви Знамения Богородицы, построенной в 1713 году.