北匈奴普奴單于在鮮卑、烏桓和南匈奴的打擊下，失了漠南一大片水草豐潤的土地，經濟上陷入窘境，勢力大衰，在軍事上已處于劣勢。為表示善意，減少來自漢朝方面的壓力，北匈奴主動送回了不少被掠走的漢朝居民，
害怕歸害怕，還得過日子。不出來搶點，吃什么用什么？為了不引起誤會，匈奴騎兵每當出來抄掠南匈奴經過附近的漢朝邊塞亭燧時，主動致歉說：“我們只是討伐叛徒日逐王（呼韓邪二世）而已，不敢侵犯漢朝居民。”
眼睜睜地看見南匈奴單于附漢后受到了東漢朝廷的優待，北匈奴普奴單于不甘心落后。為了擺脫困境，建武二十七年(51年)，普奴單于于派使者到武威郡請求和親。
然而他并不想和呼韓邪二世一樣俯首稱臣，他要求的僅僅是和親。
這樣的情形正如他的爺爺，一百年前呼韓邪單于和郅支單于。呼韓邪單于要求歸附漢朝，而郅支單于僅僅要求盟約框架內的和親。
面對接踵而來的匈奴使者，光武帝拿不定主意了：南北匈奴雖同出一族，如今卻視同仇讎，不共戴天，同等對待行不通，厚此薄彼更麻煩，如何處理？發揚一下集體智慧吧，劉秀召集公卿在朝堂商議。
然而集體智慧也戰勝不了這個難題。
皇太子劉莊說：“南單于新近歸附，北匈奴害怕遭到討伐，所以傾耳聽命，爭著要歸順漢朝。如今我們沒能為南匈奴出兵，卻反與北匈奴交往，我擔心南匈奴將生二心，這樣一來，想要投降的北匈奴也不會再來了。”
光武帝贊同這一見解，告知武威太守不要接待北匈奴使者。
朗陵侯臧宮、揚虛侯馬武認為，此時的北匈奴，遇到瘟疫，人馬、牲畜病死，又遭旱災、蝗災，赤地千里，疲憊困頓不堪，實力抵不過漢朝的一個郡，應該趁此機會，發揚痛打落水狗的精神，命令將領進駐邊塞，懸以重賞，命高句驪、烏桓、鮮卑進攻北匈奴左翼。如果這樣，北匈奴的滅亡，不過數年之事。在他們的奏章里說：“匈奴貪圖利益，沒有禮儀和信義，困難時向漢朝叩頭，太平時便侵邊擄掠。如今北匈奴萬里之外的垂死性命，懸在陛下之手。福運不會再來，時機容易喪失，難道應當死守斯文道德而放棄武力嗎？我們擔心陛下仁慈恩厚，不忍開戰，而參謀之臣又猶豫不決，使刻石銘記流傳萬代的功業不能在圣明的今世建立！”
光武帝覽畢奏章，長長地出了口氣。如今國家初定，百廢待興，人民急于休養生息，實在不能再啟戰端啊。他記起了《黃石公記》（西漢末年的一本著名兵書）里的一段話：“柔能制剛，弱能制強。舍近謀遠者，勞而無功；舍遠謀近者，逸而有終。故曰：務廣地者荒，務廣德者強，有其有者安，貪人有者殘。殘滅之政，雖成必敗。”
這不是最好的回答嗎？想到這里，劉秀用詔書回答二位侯爵的奏章：“如今國家沒有為民造福的政策，災禍變異不斷，百姓驚慌不安，不能保全自己，難道還要再去經營遙遠的塞外嗎？孔子說：我恐怕季孫家的禍患不是外部之敵顓臾，而在內部。況且北匈奴的實力仍然強盛，而我們屯兵邊境，開墾田地，戒備敵侵，傳聞的事，總是多有失實。果真能以一半國力消滅大敵，豈不是我最高的愿望！若是時機未到，不如讓人民休息。”
見光武帝如此考慮，一些主戰的將領們也噤聲了。
建武二十八年（52年），北匈奴派左骨都侯和右谷蠡王為使節進貢馬匹、皮衣，再次乞求和親，并請求傳授漢朝音樂，還要求率領西域各國使節一同進貢朝見。
光武帝命令太尉、司徒、司空三府研究如何答復。
在漢朝，司太尉、司徒和司空位列三公，共同商議決斷大的決策。
司徒掾（司徒的副官）班彪說，當初孝宣皇帝曾訓令守邊官員道：“匈奴是個大國，多變狡詐，同它交往，如能得它的真心，那么它可為我沖鋒殺敵；但如果落入它的圈套，那么反而會受到輕視欺侮。”現在北單于見南單于前來歸附，害怕他的國家受到謀算，所以屢次來求和親，并從遠方趕來牛羊同漢朝貿易，還幾番派遣地位顯赫的藩王前來，大量進貢。這些都是對外顯示富強以欺騙我們的舉動。我見北匈奴的貢品越貴重，知它國家的實力越空虛，見它求和的次數越多，知它的恐懼越大。然而我們如今既然未能幫助南匈奴，那么也不便與北匈奴絕交。依據安撫籠絡的原則，外族致禮，無不酬答。我建議可多給些賞賜，其價值大致同貢品相等，而回信之辭，必須恰當。我已經擬好了草稿，一并呈上。
班彪，字叔皮，扶風安陵（今陜西安陵），出生于儒學家庭，西漢末逃避兵亂投竇融麾下，曾勸竇融歸順漢光武帝建立東漢有功，被封徐縣令，又為司徒掾。曾作《史記后傳》65篇，為班固《前漢書》打定了基礎。
劉秀接過奏疏，原來是《奏議答北匈奴》，上寫道：“單于不忘漢恩，追念先祖舊約，欲修和親，以輔身安國，計議甚高，為單于嘉之。往者，匈奴數有乖亂，呼韓邪、郅支自相仇隙，并蒙孝宣皇帝垂恩救護，故各遣侍子稱藩保塞。其后郅支忿戾，自絕皇澤；而呼韓附親，忠孝彌著。及漢滅郅支，遂保國傳嗣，子孫相繼。今南單于攜眾南向，款塞歸命。自以呼韓嫡長，次第當立，而侵奪失職，猜疑相背，數請兵將，歸掃北庭，策謀紛紜，無所不至。惟念斯言不可獨聽，又以北單于比年貢獻，欲修和親，故拒而未許，將以成單于忠孝之義。漢秉威信，總率萬國，日月所照，皆為臣妾。殊俗百蠻，義無親疏，服順者褒賞，畔逆者誅罰，善惡之效，呼韓、郅支是也。今單于欲修和親，款誠已達，何嫌而欲率西域諸國俱來獻見？西域國屬匈奴，與屬漢何異？單于數連兵亂，國內虛耗，貢物裁以通禮，何必獻馬裘？今赍雜繒五百匹，弓鞬韇丸一，矢四發，遣遺單于。又賜獻馬左骨都侯、右谷蠡王雜繒各四百匹，斬馬劍各一。單于前言先帝時所賜呼韓邪竽、瑟、空侯皆敗，愿復裁。念單于國尚未安，方厲武節，以戰攻為務，竽瑟之用，不如良弓利劍，故未以赍。朕不愛小物，于單于便宜所欲，遣驛以聞。”
班表的這篇答書極盡挑撥之能事。答書首先對北單于重修和親的想法表示贊賞。接著引述呼韓邪單于與郅支單于舊事，告訴北單于依附漢朝則得以保存，倘若與漢朝為敵，那么郅支單于的結局便是前車之鑒。
又說南單于比是呼韓邪嫡傳之長，依照順序當立為單于，因被人侵奪而失去王位，又因遭到猜忌而分裂出走。他屢次請求漢朝出兵，要返回故土，掃蕩你們北匈奴王庭。他為了說動漢朝，使用了種種計謀，窮思極慮，無所不至。我們認為對南單于的話不可偏聽，又因北單于年年進貢，想建立親善關系，所以我們沒有應許南單于的請求，目的是要成全北單于的忠孝之心。言外之意不言而喻。
漢朝憑著威望和信義統率天下各國，但凡太陽月亮照耀之處，都是漢朝的臣屬。對待風俗不同的眾蠻夷，漢朝在道義上不分親疏。獎善懲惡，在呼韓邪、郅支兩人身上得到效驗。如今單于想建立和親關系，已經表達了誠意，還有什么嫌疑顧慮，要帶領西域各國一同來進貢朝見！西域各國臣屬匈奴與臣屬漢朝有什么不同！
你們連遭戰亂，國內財力枯竭，進貢只是交往的禮節，何必貢獻馬匹和皮裘！現將各色絲綢五百匹，弓箭套一副、箭四支，贈與單于；并賞賜前來獻馬的左骨都侯和右谷蠡王，每人各色絲綢四百匹，斬馬劍一柄。對北單于索要樂器的要求給予拒絕，說你們國家尚未安定，正是砥礪為武之時，以攻戰為當務之急，竽和瑟的用途，不及精良的弓、劍，所以沒有相贈。朕不是吝惜小物件，之所以這樣是為了對單于有益。
光武帝覽畢大喜。一個統一的匈奴政權是十分可怕的。只有鼓勵他們相互攻擊，消耗實力，才是對東漢帝國最安全的保證。他采納了班彪的建議，委婉地拒絕了北匈奴的和親請求，但表示繼續與北匈奴保持聯系。
建武三十一年（55年），北匈奴又派使者來，劉秀僅僅讓使者帶回了答復國書和賜給北匈奴的彩色絲帛，沒有派出使者前往。而對于南匈奴的請求，東漢朝廷總是有求必應。二十九年，東漢朝廷賜給南匈奴數萬只羊。
北匈奴和親不成，遷怒于南匈奴，在此后的數年里，南北匈奴數度開戰，互有勝負。
