高欢换掉皇帝后，又觉洛阳西近西魏，南近梁国，就决定迁都邺城。命令下达后，三日即行，四十万户民众láng狈就道。又任命司马子如为尚书左仆she（此人就是尔朱荣被杀后不顾妻子随尔朱荣一家逃跑的那位流氓文人。他当时还劝尔朱世隆反攻洛阳，魏孝武帝之死，究其根由，实赖其成），高隆之为右仆she，高岳为侍中，孙滕留守邺城，共执朝政。
东西魏大战之一：小关大战
536年，高欢率大军造三座浮桥，在蒲坂准备抢渡huáng河。第一次东西魏大战——小关之战拉开序幕。宇文泰确实是兵中奇才，他对诸将说：“高欢三面围住我军，搭建浮桥表示他要过河进击，实际上是想吸引我军注意力，使窦泰从西进军两面夹攻我们。窦泰是高欢一员骁将，屡战屡胜，将士必起骄心，我们发奇兵先击窦泰，高欢则不战而胜。”诸位将领都不以为然，认为高欢近在眼前，不战不防反而掉头击窦泰，万一出了差错会全军覆没。宇文泰的族侄宇文深与他意见相同，认为如果在蒲坂迎击高欢，窦泰肯定乘机从反面扑来，双方夹击下一定会失败。他建议选jīng锐兵骑直出小关（在潼关之左），窦泰性急必来赴战，而高欢行事谨慎，肯定观望，战胜窦泰后再回击高欢，敌军可破。果然，西魏军突至小关，窦泰猝不及防，引兵赴阵，宇文泰从马牧泽中杀出，大破窦泰，东魏兵死伤殆尽，窦泰自杀。由于huáng河冰薄，人兵辎重无法过去，高欢只能撤毁浮桥回军。西魏军从后追击，高欢殿后的大将薛孤延一战之中砍坏十五把钢刀，战事异常惨烈，最终才保得高欢一行人逃脱。双方第一次jiāo手，以高欢失败告终。
高欢另一路人马高敖曹进军顺利，从商山出发所向无敌，在他率兵猛攻上洛时，被流矢she中，遍体鳞伤，其中三处是贯穿伤，死而复苏，为安慰军心，他马上跳起来骑马免胄巡城，大大鼓舞了士气，攻陷上洛城。城克之后，他躺在帐篷中疗伤，感觉自己要死掉，叹息道：“遗憾的是不见弟弟高季式当刺史。”高欢闻言，马上任命高季式为并州刺史。
高敖曹是死于孝武帝和高欢两个人权谋的高乾的三弟，名昂，以其字敖曹知名于当世。此人龙眉豹须，姿体雄异，自少年时代起就桀骜不驯，招聚剑客四出劫掠。《太平广记》中载有其诗三首，其中《征行诗》：“龙种千口羊，泉连百壶酒。朝朝围山猎，夜夜迎新妇。”可以想见他年轻时放dàng不羁的生活。尔朱荣恶其英武，一度把他诱捕关在洛阳。孝庄帝杀掉尔朱荣后，知道高氏兄弟英豪，于huáng河边亲自送他们还乡招集部曲。高敖曹意气慷慨，临行舞剑，以示效死之心。孝庄帝被害后，他投奔高欢，大破尔朱氏。后来孝武帝杀掉他哥哥高乾，又派人杀他，他率十余骑奔赴晋阳归高欢。高欢引以为大将，南征北讨，立功极多。
小关之战后，高敖曹全军而还，被授为军司大都督，统七十六都督。当时高欢属下以鲜卑将领为主，都轻蔑汉人，惟独惧怕高敖曹。高欢在号令将士时，常常用鲜卑语发号施令，但只要有高敖曹在侧，他一定改用汉语讲话。鲜卑将领刘贵与高敖曹不和，有一次两个人同在一处议事，下面有人家报告治河役夫好多人淹死，刘贵故意说：“性命只值一文钱的汉人，随他死！”高敖曹闻言大怒，拔刀就砍刘贵。刘贵奔逃还营，高敖曹随之鸣鼓召集属下，勒兵欲攻。最后经别人劝了好久才罢手。又有一次，高敖曹与北豫州刺史郑俨祖玩握槊游戏（一种棋类），刘贵派手下召郑俨祖商议军事。高敖曹不让郑俨祖走，并派兵把刘贵的使者用木枷枷住站在一旁待着。刘贵的鲜卑偏将恃势骄横惯了，在旁跳脚喊：“枷则易，脱则难。”高敖曹闻言，从随从手中抽出一刀，往此人脖子上猛劲一抹，说：“又有何难！”人头落地。刘贵闻知后也不敢过来理论。还有一次高敖曹去大丞相府拜见高欢，门口护卫不让他进去，他兜转马头，弯弓搭箭，回手she杀门卒。高欢闻知后也不怪罪。由此可见，高敖曹在高欢心目中的位置何其重要！
高欢深知属下鲜卑士兵与汉人之间的矛盾。他左右逢源，对鲜卑人说：“汉人是你们的奴仆，男人为你们耕作，女人为你们织衣，上jiāo粟帛赋税让你们温饱无忧，为什么还要欺凌他们呢？”又对统下汉人说：“鲜卑人是你们雇佣的兵丁，得到你们一些衣物吃食，为你们防盗击贼，能保你们安宁度日，gān吗那么恨他们呢？”
对于迂腐不知变通的汉族大臣，他也想方设法予以说服。一次高欢要出门打仗，一名叫杜弼的大臣请求高欢出征前先消除内贼。高欢问内贼是什么人。杜弼说是那些掠夺百姓的鲜卑贵族。高欢没有立刻予以作答。他下令营中军士都搭弓上箭，高举大刀，握鞘向前，夹道层层而立，接着命令杜弼在行列中来回走动一次。杜弼是个书生，哪里见过这种阵势，吓得浑身哆嗦，冷汗直流。见此，高欢对杜弼说：“虽然搭箭不she，持矟不刺，举刀不砍，你都被吓得失魂落魄。诸位勋贵将领在战场上冲锋陷阵，百死一生，虽然有人或许有贪污冒抢的行为，但与他们平时的战功相比，怎能相提并论！”杜弼跪地顿首，为自己冒失的进谏表示道歉。一举两得，既堵住了谏官的嘴，又收买了鲜卑军士的心。
东西魏大战之二：河苑大战
537年，高欢自己带兵二十万自壶口出发赶往蒲津。第二次东西魏大战（河苑之战）开始。宇文泰由于关中旱灾大饥，带着不到一万的军马在桓农谷仓休整了五十多天，好容易才让饿得几乎皮包骨的军士歇缓过来。听说高欢渡河来战，赶忙入关准备。高敖曹带三万兵马就把桓农团团围住。高欢的参谋劝说道：“西魏贼兵连年饥荒，所以冒险到陕州来抢仓粟粮食，现在高敖曹已经围住桓农粮仓，粮食运不出去。我们最好分兵诸道，不与敌兵接战，等到麦收时分，敌方军民饿死大半，宇文泰不死也得投降。所以我们最好别渡huáng河。”大将侯景也劝告：“我军几十万士兵一举前来，万一不胜，一时难以集结兵马。不如把大军一分为二，相继而进。前军若胜，后军全力攻上；前军若败，后军可以接应，到时作为后备队出击迎敌。”高欢对这两条意见都没有听进去，自蒲津渡过huáng河前进。
宇文泰到了渭水南岸，征召的诸州兵马都没有到位。他手下诸将以为众寡悬殊，建议待高欢军队再往西行后才出兵相会。宇文泰坚持不可：“高欢如果到了长安，肯定人情民心全都会降服于他。现在趁他远来新到，正好一举可以击破。”于是造浮桥渡渭河，令军士jīng装带三天粮食，距高欢军六十里屯军。又派手下将领达奚武带三个骑兵化装成东魏军士，傍晚混入高欢营内侦知军中口令，昂首扬鞭，假装成督察官，各个军营都转了一圈，看见有衣冠不整或不遵法纪的高欢兵士，还上前举鞭乱打一顿，转了个通宵，查明高欢军中一切部署后才返回营中复命。
高欢得知宇文泰兵到，引兵会敌。宇文泰手下李弼认为敌众我寡，不能平地置阵，可在十里以外渭曲长满芦苇的沼泽地埋伏。宇文泰觉得此计可行，命令军士都偃旗息鼓，埋伏在芦苇丛中，听见鼓声就一齐冲出。高欢部下都督斛律羌举劝说：“宇文泰只想决一死战，就像个疯狗一样，豁上命也要咬人。渭曲芦苇茂密，泥泞不堪，士兵jiāo战用不上全力，不如与其相持，再暗中派jīng兵掩袭长安，端掉敌军的老窝，如此则宇文泰必可生擒。”高欢听说渭曲芦苇丛生，灵机一动：“放把大火把敌军烧死，怎么样？”一向jīng明的侯景这时出了个馊主意，认为：“应该生擒宇文泰宣示百姓，如果他被烧成焦炭，谁会相信我们真的大胜呢？”踌躇之间，高欢大将彭乐盛气请战，大声嚷嚷道：“我们人多势众，百人擒一，还怕打不胜仗吗？”于是高欢下令进击。东魏兵望见西魏兵寥寥无几，个个贪功冒进，应有的战阵散不成形。两军相jiāo之际，宇文泰亲自擂响鼓号，埋伏于芦苇丛中的兵士奋身挺兵而起，李弼率一支铁甲骑兵又从侧面突出横击，东魏军队被截成两段，军卒大恐。李弼的弟弟李标是个小个子，奋勇异常，每次跃马陷阵时都隐伏于马背上左劈右砍，东魏兵只要看见他那匹好像是“无人驾驶”的马匹就惊呼“避开这个小个子”。宇文泰远处望见，对左右叹道：“胆略如此，何必八尺之躯！”征虏将军耿贵也是武艺绝伦，每次入阵一圈身上的铠甲袍裳全被敌人鲜血染得透红。宇文泰说：“观其甲裳，就知杀了不少敌人，何必数首级论功呢。”