Будучи юнкером, Лев Николаевич оставался два года на Кавказе, где участвовал во многих стычках с горцами, возглавляемыми Шамилем, и подвергался опасностям военной кавказской жизни. Он имел право на Георгиевский крест, однако в соответствии со своими убеждениями «уступил» его сослуживцу-солдату, посчитав, что существенное облегчение условий службы сослуживца стоит выше личного тщеславия. С началом Крымской войныТолстой перевёлся в Дунайскую армию, участвовал в сражении при Ольтенице и в осаде Силистрии, а с ноября 1854 года по конец августа 1855 года был в Севастополе.
Долгое время жил на 4-м бастионе, часто подвергавшемся нападениям, командовал батареей в сражении при Чёрной, был при бомбардировке во время штурма Малахова Кургана. Толстой, несмотря на все житейские тяготы и ужасы осады, в это время написал рассказ «Рубка леса», в котором отразились кавказские впечатления, и первый из трёх «Севастопольских рассказов» — «Севастополь в декабре 1854 года». Этот рассказ он отправил в «Современник». Он был быстро издан и с интересом прочитан всей Россией, произведя потрясающее впечатление картиной ужасов, выпавших на долю защитников Севастополя. Рассказ был замечен российским императором Александром II, он велел беречь даровитого офицера.