李靖在北周武帝天和六年出生於一個宦之家，祖父李崇義曾任殷州刺史，封永康公；父李詮仕隋，至趙郡太守。李靖儀表魁偉，由於家庭的薰陶，從小就有“文武才略”，又頗有進取之心，曾對父親說：“大丈夫如果遇到聖明的君主和時代，應當建立功業求取富貴，何必做一個讀書人。”他的舅父韓擒虎是隋朝名將，每次與他談論兵事，無不拍手稱絕，並著他說：“可與之討論孫吳之的人，只有你啊。”
李靖先任長安縣功曹，後歷任殿直長、駕部員外郎。他的職雖然卑微，但其才幹卻聞名於隋朝公卿之中，吏部尚書牛弘稱讚他有“王佐之才”，隋室重臣楊素也著坐床對他說：“你終當坐到這個位置！”
大業末年，李靖任馬邑郡丞，在李淵帳下和突厥作戰。這時，反隋暴政的叛已風起雲湧，河北竇建德，河南翟讓、李，江淮杜伏威、輔公祏等領導的三支主力軍以摧枯拉朽之勢，滌盪著隋朝的統治。為隋朝太原留守的李淵暗中招兵買馬，伺機而。李靖察覺了他的這一機，於是偽裝囚徒，前往江都，準備向隋煬帝告。但當到了京城長安時，關中已經大，因道路阻塞而未能行。不久，李淵於太原起兵，並迅速攻佔了長安，俘獲了李靖。李靖滿腹經綸，壯志未酬，在臨刑將要被斬時，大聲疾呼：“明公興起義兵，本是為天下除去暴，怎麼沒有完大事，而以私人恩怨斬殺壯士呢？”李淵欣賞他的言談舉，李淵之子李世民讚賞他的才識和膽氣，因而獲釋。不久，被李世民召幕府，用為三衛。
武德元年五月，李淵建唐稱帝，即唐高祖。高祖即位後，冊封李世民為秦王。為了平定割據勢力，武德三年，李靖隨從李世民東進，擊滅在稱帝的王世充，以軍功授任開府。從此，李靖開始嶄頭角。當進擊王世充的戰役打響不久，盤踞在江陵的南梁蕭銑政權派舟師溯江而上，企圖攻取唐朝峽州、、蜀等地，被峽州刺史許紹擊退，遂退守安蜀城及荊門城。為了削平南梁蕭銑這一割據勢力，李淵調李靖赴夔州平定蕭銑。李靖奉命，率數騎赴任，在途經金州時，適遇蠻人鄧世率數萬人屯居山谷間，廬江王李瑗進討，接連敗北。李靖為李瑗出謀劃策，一舉擊敗蠻兵，俘虜甚多。於是順利過金州，抵達峽州。這時，由於蕭銑控制著險塞，再次阻，遲遲不能前進。李淵卻誤以為他滯留不前，貽誤軍機，秘詔令許紹將他死。許紹惜李靖的才幹，為他請命，李靖這才免於一死。
不久，開州蠻人首領冉肇則叛唐，率眾進犯夔州，趙郡王李孝恭率軍出戰失利，李靖則率八百士卒襲擊其營壘，大破蠻兵。後又在險要佈下伏兵，一戰而殺死肇則，俘獲五千多人。當捷報傳到京師時，李淵高興地對公卿說：“朕聽說使用有功勞的人不如使用有過失的人，李靖果然立了大功。”立即頒下璽書，勞李靖說：“卿竭誠盡力，功績特別卓著。天長日久才發現卿無限忠誠，儘量給你嘉獎賞賜，卿不必擔心功名利祿了。”李靖的誠至忠博得了李淵的信任。李淵改變了對他的見，並親筆寫敕與李靖說：“既往不咎，以前的事我早就忘了。”
武德四年正月，李靖鑑於敵我雙方的勢，上陳了攻滅蕭銑的十策。李淵對此頗為重視，二月即任命李孝恭為夔州總管，擢任李靖為行軍總管，兼任李孝恭的行軍長史。李淵認為李孝恭不太通軍旅之事，“三軍之任，一以委靖”。李靖實際上已為三軍統帥，李靖組織人力和力大造舟艦，組織士卒練習水戰，做好下江陵的準備。同時，他見、蜀之地歸附唐朝不久，各部族還不太穩定。為了解除後顧之憂，李靖勸說李孝恭把各部族酋長子弟都召集到夔州，據才能的優劣分別授以職，安置在左右，“外示引擢，實以為質”。這對於穩固、蜀政局起了積極的作用。
這年九月，李淵詔令調發、蜀兵士，集結於夔州，並任命李孝恭為荊湘道行軍總管，李靖兼行軍長史，統轄十二總管，自夔州順流東進；又任命李瑗為荊郢道行軍元帥，出襄州道，為北路軍；黔州刺史田世康出辰州道，為南路軍；黃州總管周法明出夏口道，為東路軍。四路大軍分頭並進，一齊殺向江陵，發起了一場規模巨大的軍事攻勢。
適值秋天雨季，江水暴漲，流經三峽的濤濤江水咆哮狂奔而下，響聲震撼著峽谷。蕭銑滿以為水勢洶湧，三峽路險難行，唐軍不能東下，遂休養士兵，不加防備。唐將也大都而生畏，請求待洪水退後再進兵。李靖力排眾議，說：“兵貴神速，機不可失。如今軍隊剛剛集結，蕭銑還不知道，如果我們乘江水猛漲出師，順流東下，突然出現在江陵城下，正是所說的迅雷不及掩耳，這是兵家上策。縱然蕭銑得知我將出師的訊息，倉促調集軍隊，也無法應戰，這樣擒獲蕭銑，定可一舉功。”李孝恭依從其議，遂率戰艦二千餘艘，沿著三峽，順流東進。由於蕭銑毫無防備，唐軍連破荊門、宜都二鎮，並乘勝於十月返抵夷陵城下。
”。軍敵破攻能定一，戰決擊出後然，落衰氣士們他到等，鋒人敵與不，岸南江長在泊停船戰把且暫當應們我。擋可不銳，師之敗救是這，戰迎來出派都全兵把他，守失剛剛門荊在現，勇驍銳卒士，將健的銑蕭是，弘士文“：說他告勸靖李。擊進想即，到一兵大恭孝李。江清的近附在守駐兵萬數率弘士文將驍的銑蕭，時這
