Малый Татарский переулок расположен в районе Замоскворечье на территории Центрального административного округа города Москвы. Возник в конце XIX века как Татарский переулок. Определение Малый получил по отношению к Большому Татарскому переулку. Названия Татарских улиц и переулков связано с бывшей Татарской слободой, находившейся в этом районе Замоскворечья.