Рыбинский переулок расположен в районе Сокольники на территории Восточного административного округа города Москвы. Переулок получил современное название по протекавшей поблизости реке Рыбинке, до 25 марта 1986 года назывался Второй Рыбинский переулок, 1951 года — Второй Огородный переулок по огородам, находившимся в XIX веке в пойме реки Рыбинки.