出生于陜北榆林清澗一個貧困的農民家庭，7歲時因為家里困難被過繼給延川縣農村的伯父。在延川縣立中學讀完初中，適逢“文化大革命”，曾充任延川縣造反派領袖和縣革命委員會副主任，1969年回鄉務農，做過許多臨時性的工作，并在農村小學任教一年。1973年進入延安大學中文系學習，1976年大學畢業后，任《陜西文藝》（現《延河》）編輯。曾任陜西省作家協會專業作家和副主席。
1980年發表《驚心動魄的一幕》，是根據其“文化大革命”期間保護縣委領導干部的親身經歷創作的，獲得第一屆全國優秀中篇小說獎。1982年發表中篇小說《人生》，廣受好評，獲全國第二屆優秀中篇小說獎，后改編為同名電影，亦產生轟動效應。1988年完成并出版的百萬字長篇巨著《平凡的世界》，榮獲茅盾文學獎，并且極受處境卑微而急于改變自身命運的青少年的喜愛，流傳久遠，成為長盛不衰的暢銷書，自問世以來已銷售近2000萬冊。1992年11月17日，路遙因病醫治無效在西安逝世，年僅43歲。身后出版《路遙全集》6卷。為紀念改革開放40周年，2018年12月18日，黨中央、國務院授予路遙改革先鋒稱號，頒授改革先鋒獎章。
路遙的創作，敏銳地追蹤乃至前瞻地捕捉社會變遷的時代感，對鄉村及鄉村青年一代命運充滿關切，正視農村青年成長、追求與城鄉分治之嚴酷現實之間的矛盾沖突，情感激越而思想冷峻，故事往往在城市與鄉村的交叉空間展開。《人生》描寫高中畢業生高加林不甘于像祖輩父輩一樣世代務農而終老于鄉間，要以自身的文化素養和積極追求，在城市的舞臺上為自己開拓一片新天地而歸于失敗的人生悲劇；事業與愛情的錯綜交織，深刻地展現了青春期與時代性的無情撞擊和回歸黃土地舔舐傷口的迷惘惆悵，高加林和劉巧珍的愛情悲劇超越了始亂終棄的窠臼，具有深刻的文化內涵，但在情感和道德上又讓人們對高加林的負心難以容忍。
路遙在《平凡的世界》中，自覺地追隨巴爾扎克“做時代的書記官”的自許和柳青《創業史》借一座村莊展現中國鄉村命運浮沉的革命現實主義情懷；以恢宏氣勢和史詩品格，全景式地鳥瞰中國大陸1975～1985年改革時代的風云變化。通過對雙水村農家青年孫少平、孫少安兄弟及其同輩人在風云激蕩中，為改變自身命運所做的艱辛曲折的求索以及他們情感愛戀的描寫，深刻地表現了從“文化大革命”后期極左思潮泛濫為害鄉村甚深，到改革開放時代聯產承包責任制的興起，他們一代人所經歷的政治、經濟、文化等多方面推進的劇烈變革，以及自發性極強的農民工進城的第一個浪潮。作品全景式地勾畫出從陜北山村經由縣地省區再到政治中樞北京的政治運作的場景，展現了時代巨變以及中國城鄉的社會生活和人們思想情感的巨大變遷，也對鄉村社會的家庭倫理給予毫無保留的贊頌式描寫。因“鼓舞億萬農村青年投身改革開放”，獲中共中央、國務院授予的“改革先鋒”的稱號。
