Жердевский район располагается на юге Тамбовской области и имеет общие границы с Сампурским, Токаревским, Ржаксинским и Уваровским районами. Также район граничит с Терновским и Грибановским районами Воронежской области.
Образован Жердевский район 30 июля 1928 года. В 1959 году он расширился благодаря упраздненному Шпикулевскому району. А в 1965 году районы вновь были разукрупнены, благодаря чему из состава Жердевского района вышел Токаревский и стал самостоятельной административной единицей.
С 17 сентября 2004 года Жердевский район официально состоит из 1 городского и 14 сельских поселений (сельсоветов). Райцентром становится город Жердевка.
История города начинается с момента возникновения села Чибизовка. Первое упоминание о нем встречается в 1869 году, в то время, когда здесь прокладывается железная дорога Грязи – Царицын. С этого времени идет бурное развитие и расширение села, в 1924 году Чибизовка становится центром Жердевской волости. В это время здесь развивается промышленность, работают сахарные, маслобойные и маслодельные заводы. В связи с общим экономическим ростом и увеличением оборота промышленности, Чибизовка преобразовывается в город районного подчинения и получает новое имя – Жердевка.