В 1932 году была открыта Жердевская районная библиотека, созданная на базе фонда Жердевской районной избы-читальни, располагавшейся в частном доме купца Малахова. В 1976 году в связи с созданием в районе централизованной библиотечной системы районная библиотека получила статус центральной библиотеки ЦБС Жердевского района. В 1977 году библиотека принимает первых читателей в своем новом здании.
В 1993 году библиотека приобрела первый компьютер. Установлена справочно-правовая система «Консультант Плюс», что позволило частично внедрить платные услуги для юридических и физических лиц. С этого времени библиотека становится информационным центром. Открыт отдел деловой информации, позволяющий обеспечить широкий доступ населения к правовой и социальной информации, который в 2008 году переименован в Центр правовой информации, расширивший границы сотрудничества с юридическим центром «Гарант», оказывающим бесплатную правовую помощь населению.
В 2003 и 2011 годах библиотека занимала I место в областном конкурсе на лучшее библиотечное обслуживание населения Тамбовской области в номинации «Библиотека года». В 2010 году библиотека получила диплом победителя за участие в региональном конкурсе творческих работ «Социальный портрет пожилого человека». В 2016 году МБУК «МЦБ» заняла III место в областном конкурсе на лучший аналитический обзор о деятельности муниципальных библиотек Тамбовской области в 2015 году.
В год образования библиотеки книжный фонд составлял всего 1 000 экз. документов. После войны фонд составил уже более 3 000 экз., а читателей было около 1 000. На сегодняшний день фонд библиотеки составляет 286 989 экз., пользователей – 21 785 человек, выдача документов – 510 197 экз.
