В последние годы царствования Иоанна Грозного открыта была новая дорога крымцев через Кальмиус и Донец под Гребенниковыми горами между реками, из которых одни по правую сторону впадают в Дон, а по левую в Донец». Эта дорога получила название «Кальмиусский шлях» или «Кальмиусская сакма».
В 1635 году было начато строительство крепостей Белгородской черты, а у устье реки Острогощи, выше «Каменного броду, на Сосне Терновая поляна», чтобы перекрыть Калмиусскую дорогу, контролировать передвижение крымских и ногайских татар по ней, - возведение сторожевого острога. Официально принято считать, что Острогожск основан 30 июля 1652 года под руководством воеводы Федора Юрьевича Арсеньева . Хотя, как считал воронежский историк В.П.Загоровский, «в эпоху Киевской Руси здесь находилось селение Острогоща», а в XVI веке располагался сторожевой пост.