范晔出生在一个著名的士族家庭。高祖范晷为西晋雍州刺史，加左将军。曾祖范汪入仕东晋，官至晋安北将军、徐兖二州刺史，进爵武兴县侯。祖父范宁先后出任临淮太守、豫章太守。父范泰仕晋为中书侍郎，桓玄执政时被废黜，徙居丹徒。刘裕于京口起兵灭桓玄，控制东晋政府实权后。范泰重新被启用，出任国子博士、南郡太守、御史中丞等职。他为东阳太守时，因开仓供粮和发兵千人，助刘裕打败卢循有功，被加官为振武将军。从此，范泰受到刘裕的信任，屡被升迁，先后担任侍中、尚书常侍兼司空等职。宋代晋后，拜为金紫光录大夫散骑常侍，少帝时加位特进。

　　范晔的家庭有着正宗的家学传统。范汪“博学多通，善谈名理”，撰有《尚书大事》二十卷，《范氏家传》一卷，《祭典》三卷以及属于医学棋艺的著作《范东阳方》一百零五卷，《棋九品序录》一卷等。范宁尝作《古文尚书舜典》一卷，《尚书注》十卷，《礼杂问》十卷，《文集》十六卷，尤以《春秋榖梁传集解》十二卷“其义精审，为世所重”。范泰也有《古今善言》二十四卷及文集等多种著述。受到家庭的影响，范晔从小好学，再加上天资聪慧，因此尚未成年，便以博涉经史，善写文章而负盛名。

　　东晋安帝义熙十年（公元414年），范晔十七岁，州刺史征辟他为主簿。当时，范晔同其父范泰一样，在政治上是支持刘裕的，故不肯应辟就职。六年后即公元420年，刘裕代晋称帝，改国号为宋。这一年，二十三岁的范晔应召到刘裕之子彭城王刘义恭的府下为冠军参军，后又随府转为右军参军。此后十余年，他先后担任过尚书外兵郎、荆州别驾从事史、秘书监、新蔡太守，司徒从事中郎、尚书吏部郎多种职务。

　　宋文帝元嘉九年（公元432年）冬，扬州刺史彭城王刘义康母亲王太妃去世。刘义康把故僚们召集到府内帮助料理丧事，范晔也到场了。刘义康的母亲死了，范晔实在悲伤不起来。在临葬前的一天夜晚，轮到他的弟弟范广渊值班，范晔兄弟俩邀了一位朋友躲在屋里喝起酒来。醉意朦胧之际，范晔忘记了利害，竟推开窗子，听挽歌助酒。这件事传出后，刘义康非常恼怒。几句谗言上去，宋文帝就把范晔打发到宣城（今安徽宣城）当太守去了。

　　这次贬官对范晔是一次很大的刺激。仕途上的坎坷勾起了他幼年生活的某些隐痛。范晔虽然生在名门士族，但他本人却是个妾生的庶子。晋代自“永嘉以来，嫡待庶如奴，妻遇妾若婢”，（王茂《野客丛书》卷十五），嫡庶之别是官僚之家不可逾越的大分，因而也决定了子女们的社会身份。范晔的母亲把他生在厕所里，并且碰伤了他的前额，因而落下个小字为“砖”。嫡母所生的哥哥范晏嫉妒他的才学，骂他“进利”，认为他是终家破族的祸害。父亲范泰也不喜欢范晔，早早地将他过继给从伯范弘之。屈伸荣辱与宦海浮沉，使得范晔心情十分苦闷。 在宣城任上，他开始从事后汉史的编纂工作，企图以此排解这种痛苦。史事的研究，打开了他的眼界。范晔后来讲：“本未关史书，政恒觉其不可解耳。既造后汉，转得统绪。”这就是说，原来现实中的许多不能解答的问题，在同历史的经验相对照后，他逐渐整理出了一些头绪。范晔凭着个人对历史问题的理解，写出了他的历史名作《后汉书》。这一年，他三十五岁。