當初魯肅的策略是聯劉抗曹，安撫關羽。等呂蒙代替魯肅以後，偷偷勸諫孫權：“現在徵虜將軍在南郡，潘璋駐守白帝城，蔣欽率領萬人在江上巡遊，我據守襄陽，如此曹操有何可懼，我們也不用再仰仗聯合關羽。況且，關羽向來高傲，早晚必起禍端。不趁現在兵強馬壯圖謀關羽，以後恐怕更難了。”
孫權說：“我想先取徐州，再取關羽，你看怎麼樣？”
呂蒙反對說：“現在曹操遠在幽州，我們取徐州容易。可是，徐州全靠陸路交通，適合騎兵作戰，就算我們今天取了徐州，日後曹操回來，我們也守不住呀。不如先取關羽，這樣我們就可以佔據整個長江。”
孫權同意呂蒙的策略，開始命呂蒙暗中籌謀。
爲免關羽看出破綻，孫權表面上還是不斷安撫示好。有一次，孫權派人前往荊州，想與關羽聯姻，爲自己的兒子聘娶關羽的女兒。
高傲的關羽，看不起江東諸將也就罷了，連孫權也看不起。不但不給孫權面子，回絕了聯姻的請求，還當面把孫權的使者給罵的狗血淋頭。孫權大怒，更加堅定了謀取關羽的決心。
關羽在前方攻打樊城，卻不知，已經被江東孫權、呂蒙給惦記上了。
呂蒙上書給孫權說：“關羽去攻打樊城，卻在江陵留下大量兵馬，肯定是擔心我從背後偷襲。我時常身體不好，現在請求帶一部分兵馬返回建業，假裝回去養病。關羽聽聞後，必然會將預備兵馬派往前方戰線。如此，我大軍沿江而上，襲擊空虛的荊州，則一舉可拿下南郡，擒獲關羽。”
於是，呂蒙對外稱自己病入膏肓，臥牀不起。孫權下詔，命呂蒙回建業養病。實則暗中籌謀，準備襲擊荊州。
呂蒙乘船走到蕪湖，遇到定威校尉陸遜。陸遜問呂蒙：“關羽的駐軍地與將軍的駐地相鄰，將軍怎麼就說走就走，駐地安危怎麼辦？”
呂蒙說：“我也沒辦法呀，現在病入膏肓，顧不上了。”
陸遜說：“關羽常常自矜功伐，目中無人，高傲自滿，現在一心北上，不會防範我等。聽聞你生病回建業，必然不會防備，如果出其不意，一戰可擒。等你見到主公，一定要好好計議一番呀。”
呂蒙說：“關羽向來勇猛，現在又佔據荊州，廣施恩信，不易攻取。”
等呂蒙到了建業，孫權問：“現在你回來了，誰能替你坐鎮荊州呢？”
呂蒙趕緊推薦陸遜：“我半路遇到陸遜，此人胸有韜略，才能卓著，心思縝密。並且，陸遜尚未出名，關羽必然輕慢，是最合適的人選。如果用陸遜，到任後需隱藏韜略，見機行事。”
孫權拜陸遜爲偏將軍、右部都督，代替呂蒙鎮守陸口。
陸遜到了陸口，第一件事就是給關羽寫信，稱頌關羽的勇武、功勞，對自己則用盡了謙卑之詞，處處請關羽指教。關羽對江東徹底放心，將江陵守軍抽出，拉倒樊城戰場。陸遜將前方情況一五一十地向建業稟報，告訴孫權、呂蒙，現在可以擒下關羽。
關羽擒獲于禁、斬殺龐德，新得數萬兵馬，軍糧難以爲繼。數次派人回江陵、公安向糜芳、士仁催促，命二人速速籌措糧草。結果二人因爲日常被關羽輕慢，在這節骨眼兒上竟然不用心調度，應付了事。
關羽大怒，隨口說道：“等我獲勝返回，一定要好好整治這倆貨！”
關羽隨口一句話，傳到二人耳中，把二人嚇得半死，終日惶恐。
軍糧不夠，關羽急得團團轉。聽說孫權在湘關囤積有大量糧米，也不打招呼，直接派兵去取。
孫權聽說後，冷笑一聲：“看你還能驕傲幾天，到時候讓你跪下來磕頭求我！”
於是，發兵前往江陵，襲擊南郡。
孫權準備令徵虜將軍孫皎和呂蒙分別爲左右部大都督，呂蒙說：“主公如果覺得徵虜將軍能當大任，就放心地用徵虜將軍。如果覺得我呂蒙可以勝任此次任務，就放心地用我。”
孫權不解，問呂蒙：“子明何意耶？是擔心徵虜將軍爭奪你的功勞嗎？還是說，擔心徵虜將軍是我的兄弟，會壓你一頭？”
呂蒙趕緊解釋：“主公，我沒別的意思，一心只爲公事。主公可還記得，當年周瑜、程普分別任左右都督，駐軍江陵，雖然以周瑜爲主，但是程普仗着自己資歷老，且都是都督，二人不和，差點兒誤了國家大事。前車之鑑不遠，請主公明察。”
孫權恍然大悟，趕緊給呂蒙道歉：“是孤誤會子明瞭。不是子明說出來，孤差點兒誤了大事。好，就以子明爲大都督，孫皎爲後繼。”
呂蒙率軍至潯陽，將精兵全部僞裝成商人，埋伏在船艙裡。令划船的將士全都穿白衣，僞裝成划船的百姓。一路隱匿實力，晝夜兼行。
關羽爲防備江東孫氏，在沿江設置了不少的哨所、軍屯。呂蒙一路上僞裝成百姓、商人，荊州巡哨根本沒在意，稀裡糊塗地就全被呂蒙給綁了。結果，呂蒙一直到了公安城下，關羽都沒得到一點兒消息。
呂蒙令麾下騎都尉虞翻寫信去勸降士仁，陳述利害。士仁得了書信，想起日常被關羽輕視，收了不少窩囊氣。又想到前方傳言，說自己籌措軍糧不力，關羽要懲治自己。於是，士仁毅然決然地選擇投降。
虞翻對呂蒙說：“我們此次出兵，兇險異常，主要以智謀取勝。”
呂蒙說：“這個我自然知曉。”
虞翻說：“所以，我們把士仁給帶上，然後留下我們自己的人緊守公安。”
呂蒙帶上士仁直至南郡，到了江陵城下。見糜芳還在守城，呂蒙命士仁在城下向糜芳喊話，勸糜芳投降。
糜芳跟士仁的遭遇一樣，同樣被關羽看不起，同樣被威脅。於是，開城投降，呂蒙得以進入江陵城。
呂蒙進城後，將關押在城中的于禁釋放，派人送往江東。將關羽及其麾下衆將的家屬好好安頓，悉心撫慰。同時，約束三軍，強調軍紀：“所有將士不得私入百姓家中，不得取百姓一針一線。”
呂蒙麾下有一名士卒，跟呂蒙是同鄉。在老百姓家拿了一頂斗笠，用來蓋住軍隊鎧甲物資。呂蒙知道後，含着淚對士卒說：“雖然覆蓋鎧甲是保護公物，但是你私自拿百姓的斗笠，仍然是犯了軍令。你我本是同鄉，可是，我也不能因爲私情而廢軍法。”
呂蒙含淚斬殺同鄉，維護軍令，三軍震慄，江陵城中道不拾遺。
呂蒙日夜不斷地派遣麾下安撫城中老弱，詢問他們生活所缺。生病的給藥，飢寒的給衣物糧食。將關羽府庫中的珍寶全部封存，一絲不動，只等孫權前來。