Место, где возникла эта слобода, впервые упоминается в описании долины реки Тихой Сосны, сделанном в 1636 году, под названием Осиновый брод. С основанием города-крепости Ольшанск (1644 год) двадцатикилометровая черта вниз по течению Тихой Сосны, вместе с Осиновым бродом, была передана под его охрану. Строить укрепления и охранять эту черту ольшанский воевода поручил украинской части жителей, входивших в состав Острогожского казачьего полка, поселившихся в Ольшанске отдельной слободкой, вдоль правого берега речки Ольшанки и получивших земельные наделы на ее левом берегу. Вдоль всей черты они несли караульную службу, рыли рвы, сооружали завалы, а у Осинового брода построили небольшой деревянный острожек с наблюдательной вышкой, в котором всегда находился сторожевой пост. Охранников Осинового брода ольшанцы стали называть осиновцами, а слободку, в которой они жили, Осиновкой.