经过秦火之劫，汉初《论语》也不显于世。汉惠帝时废除“挟书之律”后，先秦儒家残存经典陆续面世。《论语》先有齐人传出的二十二章(多《问王》和《知道》)和鲁人传出的《论语》二十章(与今存《论语》相同)，简称为《齐论》《鲁论》，齐鲁二书是用当时流行文字隶书写成，称“今文本”。
汉景帝末年发生了经学史上的一件大事，即孔壁古文经典的出现。当时被封在鲁的诸侯王刘余(死后谥号鲁恭王)，喜建宫殿，其宫与孔子旧宅相邻，当他扩大宫殿、拆到孔子宅壁，发现了许多写着古文字(秦以前的篆文)的竹简，经整理，知道这些都是孔家代代相传的经典，包括《尚书》《礼记》《孝经》《论语》等数十篇。其中的《论语》二十一章(与现今《论语》相比有两个《子张》篇)，称为古文《论语》，简称《古论》。汉代《论语》原本就是“齐”“鲁”“古”三个本子。
西汉成帝时安昌侯张禹位高权重，成帝做太子时，张禹给他讲过《论语》。张原学《鲁论》，后调和“齐”“鲁”，以《鲁论》为底本，择善而从，合为一编，名为《张侯论》。张的地位名望促成《张侯论》广泛流传。当时有“欲为论，念张文”谣谚。东汉末年朝廷刊《熹平石经》用的就是《张侯论》，这是《论语》第一个由官方推出的定本。可惜《熹平石经》历经战乱，所存无多。
《论语》之名大约在东汉逐渐固定了下来。汉章帝建初四年(79)朝廷召集诸儒于洛阳白虎观讲论《五经》异同。班固整理会议记录，称《白虎通义》，其中引《论语》47处，都称《论语》。
东汉末集大成的经师郑玄依据《张侯论》，参考《齐论》《古论》著有《论语注》。此书五代以后也失传。20世纪敦煌、吐鲁番文书中发现过几件唐写本“郑注”残卷。1969年在吐鲁番发现了唐景龙四年(710)卜天寿抄写的《郑注论语》长卷。
1973年河北定州西汉中山怀王刘脩墓出土的竹简中有《论语》，经整理，录成的释文7576字，约为《论语》的二分之一。属于《鲁论》系统的。
