古代“小說”一詞，非今之文體意義上的“小說”?！靶≌f”一詞，最早見于《莊子外物篇》：“飾小說以干縣令，其于大達亦遠矣。”此“小說”，只是指不合于大道的瑣屑之談，街談巷議之論，不指文學體裁。東漢桓譚《新論》中說：“小說家合殘叢小語，近取譬喻，以作短書，治身理家，有可觀之辭。”這里“小說”只指一種文體，指形式短小的，內容是“街談巷語，道聽途說”而有利于治身理家的文章。《漢書·藝文志》列有小說家，其所定的概念，仍與桓譚一樣，是沿用莊子之意，非當今意義的小說。但是，即以現代的小說概念而言，在先秦時期的作品中，有的也包含小說的基本因素，即具有一定的故事性（哪怕是最簡單的人物情節），具有一定程度的形象性，要表現出故事的相對完整性和一定的虛構性。比如上古神話傳說，寓言故事，諸子中所記述的人物的言行等，都具有小說的胚胎和雛形。而史傳文學中的不少記載人物事件的篇章，如《左傳》《戰國策》等，都已有很強的小說意味。這些，都成為我國古代小說的源頭。
魏晉南北朝時期的小說，魯迅先生把它分為志怪小說和志人小說兩類。志怪小說記載神鬼怪異故事，志人小說記載人物的瑣聞逸事。
東漢末期起，道教盛行，而佛教的小乘教也漸在中國流行起來，道徒們常談說神鬼靈異之事，以加強其宣傳力量。于是志怪小說便興盛起來。較有名的有東晉干寶的《搜神記》。干寶是東晉初年的歷史家，著有《晉紀》二十卷。他所著《搜神記》，自言是為了“發明神道之不誣”。其中不少作品講神仙道術，巫鬼妖怪，但其中也有很多優美的故事。如《韓憑夫婦》，寫韓憑夫婦不畏宋康王的暴力，固執于愛情的堅貞品質。《李寄斬蛇》寫女孩李寄奮不顧身為民除害，《三王墓》寫楚國巧匠干將莫邪為楚王鑄劍被殺，其子為父報仇的故事。魯迅亦因此改編成故事新編《鑄劍》。
志人小說，較著名的有晉葛洪托名漢劉歆所作的《西京雜記》，記述西漢的人物軼事，涉及宮室制度、風俗習慣等，也帶有怪異色彩。南朝宋臨江王劉義慶所著的《世說新語》，是魏晉逸事小說的集大成之作。
《世說新語》原稱《世說》，后人稱為《世說新書》，大約宋代開始稱為《世說新語》。全書按內容分類系事，分為德行、言語、政事、文學等三十六門。作品每節短小，每門多者數十條，少者數條，主要記載漢末到東晉人物的軼事和言談，有相當的部分是描寫“魏晉風度”“名士風度”。通過這些片段記載，反映出這段歷史動蕩時期中的社會現實。如《汰侈門》“石崇要客燕集”章寫石崇使黃門交斬美人的殘忍：
石崇每要客燕集，常令美人行酒?？惋嬀撇槐M者，使黃門交斬美人。王丞相與大將軍嘗共詣崇。丞相素不能飲，輒自勉強，至于沉醉。每至大將軍，固不飲，以觀其變。已斬三人，顏色如故，尚不肯飲。丞相讓之，大將軍曰：“自殺伊家人，何預卿事？”
《言語門》的“過江諸人”，寫王導的憂國憂民：
過江諸人，每至美日，輒相邀新亭，藉卉飲宴。周侯中坐而嘆曰：“風景不殊，正自有山河之異！”皆相視流淚。唯王丞相愀然變色曰：“當共勠力王室，克復神州，何至作楚囚相對！”
《世說》的寫人藝術，一是善于抓住典型事件進行概括描寫，三言兩語，廖廖幾筆，就可使人物性格、神態，躍然紙上。如《忿狷門》“王藍田性急”：
王藍田性急，嘗食雞子，以筯刺之不得，便大怒，舉以擲地。雞子于地圓轉未止，仍下地以屐齒蹍之。又不得。瞋甚，復于地取內口中，嚙破即吐之。王右軍聞而大笑曰：“使安期有此性，猶當無一豪可論，況藍田耶！”
二是記言記行緊密結合，它所記載人物語言，大多是活的口語，使人如聞其聲，如“石崇要客燕集”；三是記人物語言能傳出人物的說話語氣和心理活動?！妒勒f》的語言精練含蓄，雋永傳神，常有一些雋語妙句，為人所傳誦。如《言語門》記“王子敬云：‘從山陰道上行，山川自相映發，使人應接不暇。若秋冬之際，尤難為懷?！薄盎腹闭?，經金城，見前為瑯邪時種柳，皆已十圍，慨然嘆曰：‘木猶如此，人何以堪。’攀枝執條，泫然流淚?！钡搅捍?，《世說》有劉孝標（峻）為之注，引用古書四百余種，使其書內容更加豐富?！妒勒f新語》對后代的筆記小說的發展有很大影響，唐代以后有許多續作與仿作，而《世說》的許多故事，成為后代戲劇小說的素材
