Малый Сухаревский переулок расположен в Мещанском районе на территории Центрального административного округа города Москвы. Малый Сухаревский переулок, так же как и Большой Сухаревский переулок, получил своё современное название в 1907 году по соседней Сухаревой башне, разобранной в 1934 году. Старое название переулка — Малый Колосов переулок — происходило от находившейся на этом месте в конце XVIII — начале XIX веков шёлкового производства купца Панкратия Колосова.
