习仲勋和红四十二师特派员张策一起，按照“先进行群众工作，建立革命武装，开展游击运动，再开辟根据地，建立工农政权”的方针，带领游击队扫清了闫家洼子、东华池、南梁堡民团和二将川地主武装后，“深入到农村挨家挨户做宣传工作，发动群众配合游击队去分牛羊。这样提高了群众的觉悟，组织健全了二将川、白马庙川、南梁堡、豹子川、义正川、五堡川、白马川等地农民组织。派出吴岱峰、刘约三等去组织保安游击队，王子良整顿合水游击队，吴亚雄去建立安塞游击队，杨丕胜组织义勇军”。张策谈起当时和习仲勋在一起工作的情形是很兴奋地说：“我到南梁以后，就在当地群众中活动，村村开会，逢人演讲。习仲勋来后，我们同时在南梁郑大爷家里过完chūn节。经过一chūn的工作，农民联合会、赤卫队、贫农团、雇农会等在南梁为中心的几条川里相继成立。”
随着群众武装的广泛建立和地方游击队的发展，初步形成主力红军、地方游击队、群众武装相结合的三位一体的游击战争武装体系。到一九三四年chūn，陕甘边红色区域迅速扩大到包括保安、安塞、甘泉、富县、庆阳、合水、宁县、正宁、旬邑、淳化、耀县、同官、宜君和中部等十四个县的大部分地区。
为了统一领导根据地的政权建设和土地革命，巩固后方，支援游击战争，一九四三年二月二十五日，中共红军四十二师党委在南梁小河沟四合台村召开群众大会，再次选举成立了新的边区临时政权组织——陕甘边区革命委员会。习仲勋当选为革命委员会主席，白天章、贾生秀为副主席。选举决定了土地、劳动、财政、粮食、军事、肃反委员。同时组建了政治保卫大队。
习仲勋这年还不满二十一岁。
经历陕甘边革命斗争的人们发出由衷的感叹：真是来之不易啊!这是毛主席红色政权理论在西北地区的具体实践，是以刘志丹为代表的中共四十二师委员会、陕甘边特委坚持正确的军事路线的结果。
习仲勋也以热情洋溢的文字描述过当时情景：
“一九三三年冬天，红军横扫陕甘边的反动武装，以南梁为中心的陕甘边根据地建立起来了。当地小伙子见红军回来了，高兴的唱起了信天游：‘jī娃子叫来狗娃子咬，当年的红军哥哥回来了。’从此，以桥山中段为依托的红军游击战争，以烈火燎原之势发展了起来。”
至此，以南梁为中心的陕甘边革命根据地正式形成。曙光照亮了葫芦河两岸。
●边区苏维埃政府主席
以南梁为中心的陕甘边革命根据地是在党内“左”的错误严重发展、中央革命根据地发生危机、又与上级党组织完全中断了联系极其困难的形势下创建和不断扩大的。
一九三四年一月，当蒋介石完成对中央苏区包围之时，中共临时中央在江西瑞金召开了六届五中全会。这次会议把“左”倾冒险主义的错误推向了顶点。会议仍继续认定第五次反“围剿”斗争“将决定中国苏维埃道路与殖民地道路之间谁战谁胜的问题”。并在反对“主要危险的右倾机会主义”、“反对右倾机会主义的调和态度”等口号下发展了宗派主义的过火斗争和打击政策，“左”倾冒险主义进一步发展，最终导致红军在第五次反“围剿”战争中的失败、而不得不放弃中央革命根据地的严重恶果。中共陕西省委和关中、陕南各地党组织遭受空前破坏之后，在一段时间内，曾五次成立起陕西临时省委或其他领导机构，但又屡遭破坏。在这种特殊的形势下，中共陕甘边特委独立担负起领导苏区建设和红二十六军的责任。它表明刘志丹、习仲勋等一批边区党和红军领导人思想政治上的逐步成熟、组织原则上的团结一致和高度自觉。
然而，事物的发展总是充满着矛盾和斗争的。照金苏区的失守，曾一度使中共陕甘边区党的工作和武装斗争处于十分困难的境地。边区特委书记秦武山在包家寨会后受红军临时总指挥部派遣赴西安寻找省委恢复关系未果，特委其他成员亦分散在党政军组织中活动，很难形成统一健全的领导制度。因而在这段时间内，红四十二师党委实际代行陕甘边特委的职权。随着南梁根据地的创建和党的武装力量的壮大，恢复健全中共陕甘边特委就显的特别紧迫。【贺氏藏书·刘大海jīng校】
习仲勋曾说过，那时“我们盼上级和中央领导，像盼命一样，一次派人、二次派人去找中央，元宝就给了不少，但还没有找到中央和上级领导”。由此可以看出他们渴望与上级取得联系和健全党的统一领导的急切心情。
一九三四年五月二十八日，红四十二师党委在南梁寨子湾召开会议，恢复和健全了陕甘边区特委，张秀山任特委书记;同时成立了陕甘边区革命军事委员会，刘志丹任主席。习仲勋继续担任特委委员。
七月，中共陕甘边区特委作出《目前政治形势与陕甘边党的任务》的决议，指出陕甘边区“已经进入到新红军和新苏区的创造阶段”。
七月下旬，习仲勋和刘志丹、张秀山等陕甘边领导，在闫家洼子迎来工农红军陕北游击队总指挥部总指挥谢子长、政委郭洪涛、参谋长贺晋年及其率领的陕北游击队和赤卫队。闫家洼子是陕甘边区红军重要的落脚地，位于白马庙川、玉皇庙川、荔园堡川的三岔路口，离荔园堡仅三四里地之距，当时在红军曾流传说：陕甘边区红军武装“上上上下下下，上下不离闫家洼子”。
刘志丹、习仲勋与谢子长是在陕甘游击队改编为红二十六军前后分手的，这次老战友在自己的根据地久别重逢，叙旧言欢，更是激动不已。中共陕甘边特委和革命委员会专门召开欢迎大会，杀猪宰羊，慰劳远道而来的兄弟部队。他们还邀请了陕北游击队参观了陕甘边区红军军政gān部学校，介绍民主建设和部队管理经验，进行军事技术战术演习等。陕北游击队也介绍了自己开展土地革命斗争和群众工作情况，派人慰问看望陕甘边伤病员，体现了兄弟部队之间的团结和友谊。
月底，陕甘边区与陕北党政军领导人在闫家洼子召开联席会议。红二十六军连以上和陕北游击队支队长以上gān部三十多人参加会议，习仲勋“是主席团成员之一”。
会议总结讨论红四十二师和陕甘边根据地工作和任务的同时，决定红四十二师政委高岗去上海临时中央局受训，由谢子长兼红四十二师政委;红三团随谢子长由南梁地区出发北上，与陕北游击队协同作战，进一步推动陕北游击斗争发展。联席会议上上海临时中央局和中央驻北方代表通过陕北特委转jiāo陕甘边区的两封指示信。这两封信指责红二十六军是“一贯的右倾机会主义领导”、“梢山主义”、“枪杆子万能”、“浓厚的土匪色彩”等等。习仲勋于刘志丹针对上述观点作了必要的说理和申辩。刘志丹说：有梢山主义不错呀!没有梢山主义就不行。谁不愿意在一个大平原建立一个根据地?省的上坡下坡。但是国民党不让我们这样gān，要存在实行梢山主义。谁说不能以南梁堡、二将川、豹子川为中心去开展新的进攻呢?