不久，关羽就离开曹操，投奔在袁绍麾下的刘备。

刘备在得到诸葛亮后，越来越器重诸葛亮。

关羽、张飞对此事感到不悦，刘备解释道：“我得到了孔明，就像鱼得到了水，希望诸君不要再说了。”关羽、张飞才停止了抱怨。

建安十三年（208年），刘备投靠刘表，屯兵于新野。

曹操率领大军南下，刘备南逃，另遣关羽乘数百艘船驶向江陵会合，但刘备于途中当阳长坂坡被曹操军追至，幸而关羽驶至汉津，一同乘船至夏口。

刘备联合孙权击败曹操后，曹操留曹仁等防守荆州。

于是，刘备又与孙权大将周瑜夹攻曹仁，命关羽绝北道。

后来，刘备又向南收取荆州南部四郡（长沙、零陵、武陵、桂阳）。

关羽被拜为元勋，受封襄阳太守、荡寇将军。

此时，襄阳实为曹操势力范围，由乐进驻守，所以关羽驻兵于江南。

在此期间，关羽重修了江陵城。

建安十六年（211年），刘备入蜀，助刘璋防御张鲁，让张飞、赵云、诸葛亮与关羽共守荆州。

建安十八年（213年），刘备与刘璋决裂。

建安十九年（214年），刘备攻打雒城时，军师庞统中矢身亡。

刘备乃召张飞、赵云、诸葛亮入蜀支援，关羽驻守荆州。

刘备平定蜀地后，以关羽董督荆州事，授权掌管荆州地区刘备控制的部分，包括荆州南部四郡和从东吴借来的南郡，关羽事实上镇守荆州五郡。

建安二十年（215年），孙权知道刘备已夺得益州，希望取回荆州。

刘备却说：“当得到凉州时，便会把荆州交还。”

孙权对此十分怨恨，便派鲁肃索要荆州。

孙刘两方的将领在阵前“单刀会”，据理相争但最终不欢而散。

建安二十三年（218年），太医令吉本、少府耿纪、司直韦晃等人谋反。

不久，事情败露，几人被曹操所杀。

曹操曹仁行征南将军，讨伐关羽。

曹仁镇守荆州期间，大肆征调徭役，荆州境内的军民苦不堪言。

已经降曹20年的宛城百姓们，最终被曹仁逼反。

宛城守将侯音与卫开与吏民共同反曹，与关羽联合。

曹仁率军前往平乱，攻破宛城，将侯音斩杀，并且屠城。

建安二十四年（219年），刘备军与曹操军相争汉中，曹操的将领夏侯渊被刘备大将黄忠所斩。

曹操亲提大军来征汉中，刘备据守，黄忠又在汉水劫去粮草。

曹操无奈只得退出汉中，刘备遂占据汉中。

同年七月，刘备自称汉中王，任命许靖为太傅，法正为尚书令，关羽为前将军，张飞为右将军，马超为左将军，黄忠为后将军，并派益州前部司马、犍为人费诗去关羽驻地授予关羽官印。

早在建安二十三年（218年），陆浑民孙狼等苦于徭役，叛上作乱，南附关羽。

而在建安二十四年（219年）八月，于禁等七军覆没后，自许都以南的诸多山贼纷纷遥受关羽印号，为关羽的支党。

甚至连曹操所任命的荆州刺史胡修、南乡太守傅方投靠了关羽，其声势一度威震华夏！