Сержантская улица расположена в Ярославском районе на территории Северо-Восточного административного округа города Москвы. В составе бывшего города Бабушкин называлась Красноармейская улица. После включения в черту Москвы в целях устранения одноимённости улица в 1964 году получила нынешнее название, сохранив «военную» тематику.