興平元年（公元194年），曹操藉口爲父報仇而再度攻打徐州。因曹操之父曹嵩爲陶謙部下張闓所殺，而曹軍中的“青州軍”，又正好是昔日被陶謙趕出徐州的青徐黃巾。一時之間，新仇加舊恨，曹操大軍如猛獸般殺紅了眼，所過之城必屠之，勢不可當。曹操大軍先後攻拔十餘城，沿泗水直至彭城。曹操以曹仁爲先鋒攻陶謙部將呂由，破呂兵之後與曹操合兵。陶謙被逼引軍迎戰，彭城一戰大敗，只好逃離彭城，退到東海郯城據守，曹操乘機破了彭城，傅陽。之後曹操向東北攻打費、華、即墨、開陽，陶謙在郯城一面遣別將救援被曹軍圍攻諸縣，一面飛書遣使向青州刺史田楷告急。救援各縣的援軍幾乎都被曹仁騎兵擊破，唯有開陽賴有藏霸等守城，得以倖免。曹操大軍兵臨城下，所幸城池堅固，曹操一時攻城不下。青州刺史田楷與孔融一起引軍救援徐州。
曹軍把整座城外的水泄不通，孔融、田楷兩路軍馬懼怕曹軍勢猛，在不遠處的山下安營紮寨，不敢輕進。曹軍見強攻不成，也暫時按兵不動，審時度勢，以待時機。
平原相劉備向公孫瓚借來趙雲及兩千騎兵，也馬不停蹄的開赴徐州。劉軍抵達之後，劉，孔兩人於孔營商討退曹方案。
孔融說道：“曹兵人馬衆多，聲勢浩大，曹操又善於用兵，不可輕戰。且觀其動靜，然後進兵。”
劉備不以爲然，說道：“唯恐戰事拖延，城中無糧，難以久持。不如備令雲長、翼德領軍四千，公使部下相助；我領子龍殺奔曹營，徑投徐州去見陶使君商議。”
孔融大喜道：“如是甚好。”
當天孔融引兵會合田楷，成掎角之勢，關羽和張飛領兵兩邊接應。劉備和趙雲帶一千人馬殺入曹營寨邊。正行之間，寨內擂鼓大作，曹兵從四面八方蜂擁而至。當頭的是員虎面長鬚的大將於禁，那人勒馬大叫道：“何處狂徒！往那裡去！”趙雲見了，也不答話，挺槍直取于禁。劉備只管往城門方向直奔。兩人交戰數回合，于禁不敵，趙雲也不戀戰，直接追隨劉備而去。直到徐州城下，陶謙在城上望見來軍舉着劉字大旗，知道是援兵，於是急忙命人打開城門。等劉備等人進齊，城門復又再度緊閉。
劉備入城之後，陶謙下城樓親自接迎，然後領劉備等人到府衙，設宴款待。陶謙見劉備儀表堂堂，談吐不凡，心中大喜，便命糜竺取來徐州牌印，讓給劉備。
劉備一驚，問道：“陶公這是何意？”
陶謙解釋道：“今天下擾亂，王綱不振；劉公乃漢室宗親，正宜力扶社稷。老夫年邁無能，情願將徐州相讓。請劉公勿推辭。謙當自寫表文，申奏朝廷。”
劉備纔剛到，陶謙就相讓徐州，這當然不可領受，於是推辭道：“恕備不能受，備雖是漢朝苗裔，但功微德薄，爲平原相猶恐不稱職。今爲大義，故來相助，公出此言，莫非疑劉備有吞併之心？若舉此念，皇天不佑！”
陶潛見劉備推辭，於是繼續勸道：“玄德莫怪，老夫是真心實意想讓與徐州。”這確實是陶謙的真心話。他苦苦經營徐州多年，不料卻被曹操給弄得千蒼白孔。他認爲只有像劉備這樣的仁義之君，方能經營好徐州。
然而劉備那裡肯受，陶謙再三相讓，始終沒說動他。這時，糜竺進言道：“今兵臨城下，且當商議退敵之策。待事平之日，再當相讓也可。”於是陶謙只好作罷。
人家兵多將猛，這打是打不過了，既然打不過就言和好了。大夥商量來商量去，決定由劉備寫信給曹操勸和。
劉備書畢，命使者送至曹操大營。曹操以爲是戰書，待拆開來看，卻是劉備勸其退兵之信。
信上大概是這麼寫的：“備自關外得拜君顏，嗣後天各一方，不及趨侍。曏者，尊父曹侯，實因張闓不仁，以致被害，非陶恭祖之罪也。目今黃巾遺孽，擾亂於外；董卓餘黨，盤踞於內。願明公先朝廷之急，而後私仇；撤徐州之兵，以救國難：則徐州幸甚，天下幸甚！”
曹操看完大怒，立馬命人斬來使，卻被一名文弱的白面書生給勸攔下來，此人正是郭嘉。郭嘉附在曹操耳邊進諫道：“劉備遠來救援，先禮後兵，主公當用好言答之，以慢備心；然後進兵攻城，城可破也。”
曹操聽罷，心裡一陣盤算，然後採用了郭嘉的進言，款待來使，並且寫書回劉備。
等來使已走，曹操即刻招諸將士到帳中，共同商議如何攻取徐州。正在商議之際，忽飛馬來報：“呂布已襲破兗州，進據濮陽。只有鄄城、東阿、範縣三處，被荀藹、程昱設計死守得全，其餘俱破。曹仁將軍屢戰，皆不能勝，特此告急。”
曹操大驚，兗州是他的根據地，倘若有失，他等將無家可歸。經商議之後，曹操聽取郭嘉的建議，賣了個人情給劉備，拔寨退兵，趕赴兗州。
陶謙聞飛馬來報曹軍已退，心中大喜，於是命人擺開宴席，邀請劉備，孔融、田楷、關羽、張飛、趙雲等人赴宴。宴會之上，陶謙極力勸酒。飲宴既畢，陶謙引劉備到上座，然後拱手對衆人說道：“老夫年邁，二子不才，不堪國家重任。劉公乃帝室之青，德廣才高，可領徐州。老夫情願乞閒養病。”
劉備聽罷，馬上推遲道：“萬萬不可，備來救徐州，爲大義也。今無端據而有之，天下將視備爲無義之人。”
任由衆人如何規勸，劉備拒不受。陶謙只好作罷。
“既然劉公不受，容我上表朝廷封劉公爲豫州刺史，劉公可在小沛屯軍，由我徐州提供糧草。如何？”陶謙退一步問道。
“備在此謝過陶公厚愛！”劉備拱手說道。其實他也正愁着無處安身，既然陶謙願意讓他駐守小沛，那是最好不過了。
徐州之圍已解，孔融、田楷亦各相別，引軍自回。趙雲也只好領軍回公孫瓚部，劉備不捨，執手揮淚而別。衆人散後，劉備與陶謙再三拜別，然後與關羽、張飛一同引軍開往小沛。
趙雲告別了劉備之後，引兵回到瓚營。不久，趙雲收到家書說他的兄長去世，於是他便向公孫瓚請辭歸鄉，從此離開了公孫瓚。