Почему село Ржевка получило такое название старожилы объясняют по- разному: одни говорят, что в этой местности был большой яр и водились в нем дикие лошади, ржание которых было слышно очень далеко; другие, что в этой местности на болоте рос камыш, который покрывался ржавчиной.
Впервые село Ржевка упоминается в 1822 году. Первые поселенцы, среди них был крестьянин слободы Ровеньки Иван Никитович Сабинин, селились на месте слияния двух балок в одну. Здесь же был колодец. Во многих документах упоминается, что «село Иржевка стоит при колодце». То есть, первоначально село было местом зимовки скотоводов и насчитывало не более 5 дворов. Но уже в первой половине 19 века село разрослось, и о нем упоминается почти во всех справочниках Воронежской губернии. К 1859 году, когда была построена церковь, Ржевка была уже довольно крупным населенным пунктом, и ее из хутора переименовали в слободу. Церковь была деревянная с кирпичной колокольней. Колокола церкви звенели очень звонко, славились на всю округу. К 1865 году в слободе Ржевка насчитывался уже 71 двор, где проживало в общей сложности 552 человека. В 1890 году в слободе проживало уже 1079 жителей. Численность населения практически удвоилась и количество дворов: с 71 в 1865 году до 136 в 1890 году.
Осенью 1929 года в селе Ржевка был организован колхоз «Заветы Ильича». Его организатором был присланный уполномоченный 25-тысячник Кузнецов Иван Григорьевич, молодой энергичный рабочий. Первым председателем стал Ткачев Ефим Иванович. Постепенно колхоз рос и креп. В 1932 году решено было построить МТС. Вместо сохи на полях появились тракторы. В 1939 году в МТС было всего 20 тракторов, один комбайн, молотилки, жатки, другая сельскохозяйственная техника. Норма на один трактор за год составляла 500 га пахотной земли. МТС обслуживала много сёл.
Огромным бедствием для села, как и для страны в целом, оказалась Великая Отечественная война 1941-1945 годов. Много жизней наших односельчан унесла война. В первые послевоенные годы в селе насчитывалось 138 дворов с общим количеством жителей - 960 человек. По сравнению с 1932 годом население сократилось на 290 человек. В 1958 году в честь воинов, погибших на полях сражений на месте братской могилы в центре села Ржевка был воздвигнут памятник «Скорбящая мать», который 9 октября 2001 года был заменен на обелиск памяти павшим в боях и 21 ноября 2014 года памятник «Скорбящая мать» был реставрирован и вернулся на своё прежнее место..
Колхоз «Заветы Ильича» (сегодня – СПК (колхоз) «Заветы Ильича») неоднократно награждался дипломами, почетными грамотами за высокие показатели и входил в тройку лучших хозяйств Ровеньского района, на протяжении многих десятилетий являлся экономически крепким хозяйством. В 1978 г. хозяйство награждено Памятным Знаменем ЦК КПСС, Президиума Верховного Совета СССР, Совета Министров СССР, ВЦСПС в честь 50-летия Октябрьской социалистической революции, переданным на вечное хранение как символ трудовой доблести коллектива. В 1970, 1972, 1973, 1978 гг. - переходящими Красными Знаменами ЦК КПСС и Совета Министров СССР.