孔融是孔子的第二十世孙。他的七世祖孔霸是汉元帝的老师，官至侍中。父亲孔宙，曾任太山都尉。他少年时便有突出的才能，受到名士李膺的赞许。
孔融十三岁时，孔宙去世，孔融悲痛过度，需要人扶才能站起来，州里因而称赞他的孝行。他天性好学，博览群书。名士张俭为中常侍侯览所记恨，密令要州郡捉拿张俭。张俭与孔融兄长孔褒是好友，于是逃到孔褒家中，孔褒却不在。当时孔融年仅十六岁，张俭认为孔融年轻，并没有告诉他自己的处境。孔融看见张俭窘迫的样子，对张俭说：“哥哥虽然在外未归，我难道不能为您的东道主吗？”因此留张俭住在自己家。
后来事情泄漏，自国相以下的人，都秘密的压下此事，张俭得以逃脱，孔褒、孔融则被逮捕入狱。但不知他们二人是谁获罪。孔融说：“收容匿藏张俭的是我，有罪归我。”孔褒说：“张俭来找我，不是弟弟的罪过，罪在我，我心甘情愿。”官吏问他们的母亲，母亲说：“年长的人承担家事，罪责在我。”一门都争着赴死，郡县迟疑不能决断，于是向朝廷请示。诏书最后定了孔褒的罪，孔融因此事而闻名。
孔融与平原人陶丘洪、陈留人边让齐名，州郡以礼策命，他都不到。
孔融后来受到司徒杨赐的征召，成为司徒掾属。当时暗暗察访官僚中的贪污之人，准备予以贬谪罢免，孔融检举的多为宦官的亲族。朝中尚书害怕得罪宦官，于是召孔融等司徒属官诘问斥责，孔融陈述宦官子弟的罪恶，毫不隐讳。
光和七年（184年），河南尹何进即将升任大将军，杨赐派孔融拿着名片去祝贺何进，因门人未及时通报，孔融就把名片夺回，引罪自责而去。河南尹官属认为丢了面子，想要派剑客追杀孔融，有宾客对何进说：“孔文举有盛名，将军如果与他结怨，四方之士就会相随而去了。不如以礼对待他，使天下人都知道将军的胸怀广大。”何进同意，于是征辟孔融为大将军掾属，又举其为高第，迁任侍御史。孔融又因为与上司御史中丞赵舍不和，托病归家。
后来，孔融被征为司空掾属，被授为北中军候。在职三天，转任虎贲中郎将。正逢权臣董卓总揽朝政，想要废掉汉少帝刘辩，孔融与董卓争辩，言辞激辩，常有匡正的言论。董卓怀恨在心，将孔融转任议郎，随后又暗示三府（太尉、司徒、司空）举荐孔融到黄巾军最为猖獗的北海国（治今山东昌乐西）为国相。
孔融到北海后召集士民，聚兵讲武，下发檄文，又亲写书札，与各州郡通声气，共同谋划。因讨伐黄巾军张饶战败，而转保朱虚县。慢慢集结官吏百姓被黄巾所蛊惑的男女四万多人，再设置城邑，设立学校，表显儒术，荐举贤良郑玄、彭璆、邴原等。对待国人，就算只有一点微小的善行，也都以礼对待。国人没有后代及四方游士有去世的，都帮助安葬他们。因颇有政声，被时人称为“孔北海”。
后来，孔融被黄巾军将领管亥所围，情势紧急。于是派太史慈向平原国相刘备求救。刘备惊奇地说：“孔北海竟知道天下还有个刘备呢。”于是立即发兵解围。
当时，袁绍、曹操逐渐成为中原地区最强大的势力，而孔融知道二人终究是要篡夺汉室的，所以不愿意投靠他们。其幕僚左承祖劝孔融结纳袁绍或者曹操，孔融怒而将其杀害。孔融自负于才气秉性，立志平定国家的危难，但因为才器粗略，思想空乏，所以没有什么收获。
孔融在任六年后，被刘备上表推荐兼领青州刺史。
建安元年（196年），袁谭攻北海，双方战斗自春至夏，战士仅剩数百人，流矢像雨一样射来，城内已经短兵相接。孔融仍然凭几读书，谈笑自若。至夜晚城陷，他才逃奔山东（太行山以东），妻儿都被袁谭所掳。
建安元年（196年），汉献帝迁都许昌后，征召孔融为将作大匠，又升任少府。每逢朝会访问召对之时，孔融常引证定议，公卿大夫都不过挂名而已。
之前，太傅马日磾奉命出使山东，到了淮南时，多次有求于袁术，袁术于是轻视侮辱他，夺走他的符节，又不准他离开，还要强迫他任军师。马日磾忧愤自己至极，于是呕血而死。等到马日磾遗体送回京师，朝廷想加以礼葬，孔融于是独自陈说：“马日磾凭上公的尊贵身份，持天子的髦节，奉命处理地方事务，安宁东夏，竟然取媚奸臣，被他所指使，所上章表署名补用，马日磾都是第一个。依附下级，欺骗朝廷，奸诈事君。从前国佐敌晋军，不为其折服，宜僚当着白晃晃的刀而面不改色。朝廷大臣难道可以受威胁为借口吗？而且袁术犯上叛逆，不是一朝一夕的事，马日磾与其周旋已久。按《汉律》规定：与罪人往来三天以上，都应该知道他的情况。《春秋》说：鲁叔孙得臣死了，为了不张扬襄仲的罪贬，不写日子。郑讨伐幽公，砍薄子家的棺材，因为他杀君的缘故。陛下可怜旧臣，不忍追究定罪，已经很宽大了，不应该再加礼。”朝廷采纳了他的意见。
当时舆论大都想恢复肉刑，孔融建议说：“古时候的人浑厚朴实，善恶不别，官吏正直，刑法清明，政治没有错误。百姓有罪，都是自己的责任。末世衰微，风气教化坏乱，政治搅乱风俗，国家的法律害了人民。所以说君主没有为君之道，百姓就涣散不服，而想用古时候的刑法残废他们的肢体，这不是除恶长善的办法。纣砍断早晨涉水者的小腿，天下的人都说纣暴虐无道。从前，周有一千八百个诸侯国，天下百姓，要养一千八百个君主，如果各砍掉一人的脚，下面就有一千八百个纣呢。想风俗纯美，是绝对做不到的。