189年、馬騰、韓遂らと共に刺史、郡太守を殺害して涼州で再び反乱を起こした。 軍勢は十万にも達し、天下は動揺した。
192年、韓遂は馬騰と共に降伏し、長安に入城した。韓遂は鎮西将軍に任命されて金城郡に戻った。 ほどなくして劉範による内応と劉焉 の助けを受けて馬騰と共に長安の李[人寉]を攻撃しようとしたが、 計略が露見して攻撃は失敗し、涼州に向けて逃走した。
韓遂は馬騰と義兄弟となり最初は仲が良かったが、そのうち対立するようになり、 韓遂が馬騰の妻子を殺害すると馬騰との争いは泥沼化した。 鐘[揺系]は使者として韓遂と馬騰の仲を取り持ち、 韓遂は馬騰と共に息子を人質として曹操に送った。 鐘[揺系]が郭援と戦った際には韓遂の兵も鐘[揺系]軍に参加していた。
210年、鐘[揺系]が行おうとしていた遠征が自分たちを狙ったものだと感じた 馬超は関中の諸将と共に軍を起こし、鐘[揺系]のいる長安を攻撃した。 このとき韓遂は張猛に対する討伐の途中であったが、張猛を斬りその後に 馬超に呼応して反乱に荷担した。曹操は鐘[揺系]の援軍として駆けつけ、 潼関で対峙した。曹操は賈[言羽]の計略を用いて韓遂と馬超の仲を裂こうとした。 曹操は韓遂と同年代だったことから、馬超の前で親しそうに軍事とは関係ない事柄について歓談したり、 韓遂に宛てた手紙にわざと消したり書き改めた個所を書き、その手紙を見た馬超が韓遂のことを疑うようにしむけた。 結局馬超、韓遂は曹操に敗れて涼州に逃げ戻る。
214年、馬超が趙衢らに敗れて漢中に逃走すると韓遂は金城郡に移った。 ここで成公英の戦略に従って羌族を味方につけ興国を拠点として 夏侯淵と戦った。夏侯淵は韓遂の擁する精兵との直接対決を嫌い、 羌族の本拠地を攻撃して韓遂軍に参加している羌族の動揺を誘う戦略に出た。 やむを得ず韓遂は要害の地である興国を出て羌族の救援に向かった。 しかしここで夏侯淵に散々に打ち破られ、西平に逃亡した。
215年、部下の麹演、蒋石の軍に攻撃されて首を取られた。享年72歳であった。
別説には韓遂は病死したということになっている。これは郭憲の伝に記載した。 (魏書・武帝記ほか)