Radzovce sa nachádzajú na východnom pomedzí historickej Novohradskej župy, ktorá tu hraničí s Gemerom. Obec leží v severnom ústí priesmyku, ktorý spája údolie potoka Zagyvy na juhu s lučenskou kotlinou na severe. Chotár obce leží uprostred Cerovskej vrchoviny na nive a terase potoka Belina v nadmorskej výške 216 – 584 m.