Второй Щемиловский переулок расположен в Тверском районе на территории Центрального административного округа города Москвы. Ранние названия Тупой переулок, Щемиловский тупик показывают, что первоначально переулок не имел выхода на Пименовскую (ныне Краснопролетарскую) улицу. Современное название, известное с XIX века, вероятнее всего, от фамилии Щемилов (названия Щемилово, Щемиловка не раз встречаются в топонимии России).