1930年夏，陇东民团军总司令谭世麟又在扩充自己的势力。中共陕北特委又指派已经脱离了苏雨生部的刘志丹和谢子长，带着自己的那支武装去投靠甘肃陇东国民司令谭世麟。中共陕北特委这样做的目的，就是为了保存革命实力。于是，在党组织的派遣下，刘志丹和谢子长又来到甘肃地方军阀陇东民团军谭世麟的部队中，开展“兵运”工作。
谭世麟久闻刘志丹是黄埔军校第四期毕业生，文韬武略兼备，治军有方，就请他来为自己整编民团军，训练部队，以便增加与其他军阀抗衡的筹码。刘志丹来到谭部后，马上被委任为其主力部队的骑兵第六营营长。与此同时，谢子长又派李力果、阎红彦等人，将驻宜川后九殿民团杨庚武部的周维祺营百余人也拉到庆阳北部三道川（今属吴旗县），编为一个营，又和原来的那支队伍合编为一个团，由谢子长任团长，驻防在三道川，隶属于谭世麟的部下。
这时，刘志丹就利用“骑兵第六营营长”的公开身份做掩护，寻找散落在各地的党团员和革命同志，并在陕甘边地区秘密开展革命活动，陆续聚集起了一个团的人马，准备暴动。但是，谭世麟命令刘志丹和谢子长他们驻扎三道川一带的部署，却引起了另一个小军阀张廷芝的注意。
说起这个张廷芝，和刘志丹之间可有些“渊源”。
张廷芝是保安县大财主张鸿儒的儿子。张鸿儒不仅有钱有势，当年还在陕北军阀井岳秀手下当过营长，此人谋人钱财，夺人土地，杀人性命，霸人妻女，几乎是坏事干尽，无恶不作！张鸿儒和刘志丹两家相隔不远，可以说是近邻。刘志丹的父亲刘培基当年还在张鸿儒手下当过差。刘志丹高小毕业后，他父亲还曾劝他到张鸿儒手下谋个差事，但是由于他爷爷的反对，才没有去成。不仅如此，刘志丹和张鸿儒的儿子张廷芝从小就是冤家对头。因为张廷芝从小就是当地出了名的“恶少”，少年时代的刘志丹曾经痛打过他一顿。后来张廷芝拥有了自己的庄园，又有了自己的军队，更是变本加厉，祸害乡亲。他的军队是用来干什么的呢？就是收租子、抓壮丁，自然就引起了当地群众的公愤。所以，刘志丹在闹革命以后，首先想到的就是要打倒张廷芝，而张廷芝一看到刘志丹在闹革命，他首先想到的也是怎样消灭刘志丹的部队。这时，张廷芝见刘志丹已经取得了谭世麟的信任，并且委以重任，就准备向刘志丹下手。
怎样才能打败刘志丹呢？张廷芝想了很久，最后把目标瞄准了刘志丹的一个部下，就是那个刚从土匪武装改编过来的连长周维奇。当时周维奇拥有一支一百多人的队伍，受谭世麟招安后，就成了刘志丹部下的一个连长。但是此人匪性不改，被张廷芝瞄上了，于是张廷芝就请周维奇吃饭，想拉拢他一起消灭刘志丹。
张廷芝先是把周维奇骗到自己家里，好酒好肉地款待他，并且一下子送给他几百块大洋。但是在酒席上，张廷芝见周维奇似乎还没有动心，又心生一计，许诺把自己的妹妹嫁给周维奇。周维奇早就听说张廷芝的妹妹还没有出嫁，又是保安县大财主的小姐，就动心了。张廷芝为了表示自己的诚意，当时就叫自己的妹妹出来陪周维奇喝酒。喝着喝着，周维奇就和张廷芝的妹妹喝到床上去了，当晚就把张廷芝的妹妹给睡了。在金钱美女面前，周维奇叛变了，他带着队伍，领着张廷芝的部队来到了三道川，向刘志丹的部队发起突然袭击。张廷芝的部队这一下可占了个大便宜，他们不但缴了周维奇队伍的枪，还袭击了谢子长的团部和刘志丹的骑兵第六营。不过，张廷芝并没有抓到刘志丹。
原来，在张廷芝夜袭三道川时，刘志丹刚好在庆阳给谭世麟训练完队伍，准备回三道川去，走到半路得知部队已被缴了械，这才免遭毒手。而谢子长等人也乘着夜色侥幸逃脱了。
刘志丹连夜回到了永宁山，躲进了保安县政府，被保安县县长，也就是刘志丹的老师给保护起来了。张廷芝又派出部下蔺士殿带着部队，来永宁山追捕刘志丹。保安县政府的县衙在永宁山上，那里悬崖峭壁，还有吊桥，只要把吊桥一抽，谁也进不了这个县衙。当时在危难之中，刘志丹也只好利用这种关系，请他的老师帮忙拦住那个蔺士殿。保安县长果然答应了，出面叫蔺士殿一个人上去，不许别人上去。蔺士殿一看来硬没有用，只好一个人来到了永宁山。他一走进保安县县衙，就看到刘志丹坐在那里，结果这个蔺士殿不但没有抓住刘志丹，反而被刘志丹拍着桌子，狠狠地臭骂了一顿。蔺士殿一见刘志丹有保安县县长罩着，最后只好灰溜溜地带着队伍撤了。
刘志丹虽然逃过了一劫，但在“三道川事件”中遭到了张廷芝的袭击，辛辛苦苦搞起来的一支武装，还没有打出红旗就被搞垮了，“兵运”工作暂时受挫。这时，刘志丹清醒地意识到，依附在军阀下面不是长久之计，要想闹革命，就必须要有自己的武装。他认为当务之急就是赶快搞到一批武器，然后拉起一支自己的队伍，组织一支自己的工农武装，只有这样，革命才有可能成功。
不久，刘志丹打听到谭世麟旗下有一支队伍，驻扎在合水县太白镇，这支队伍是谭世麟陇东民团军第24营。这个民团的团总姓黄，叫黄毓麟，是一个让当地老百姓深恶痛绝的恶霸，他手下有几十条枪，还有几十匹好马。刘志丹决定把这个第24营干掉，夺下他的枪支马匹，然后建立一支自己的武装。
1930年8月中旬，刘志丹、谢子长同往绥德，参加了中共陕北特委第五次（扩大）会议。9月14日，刘志丹返回家乡保安县永宁山，向党组织传达了会议精神，同曹力如、王子宜等同志一起研究制定了在陕甘边界开展革命武装斗争的计划。他们经过反复研究，打算先消灭驻合水县太白镇的陇东民团第24营，既可以为当地百姓铲除祸害，又可以夺取枪械，建立一支独立的工农武装。
太白镇坐落于合水县子午岭东麓的崇山峻岭中，苗河和葫芦河由此汇入洛河。这是一个北通保安（志丹）县，西连华池县，东接富县并通往革命圣地延安的咽喉地带。镇上有一条东西走向的小街道，镇北面有一座残破的土城，相传为北宋庆历年间范仲淹所筑。小镇周围，群山环抱，流水潺潺，景色如画，有“小江南”之称。在战争年代里，这里是兵家必争之地。
这时候，从“三道川事件”中脱险的几个连长卢仲祥、刘约山、马福吉等人也陆续回到了永宁山。贺彦龙、魏佑民等人也从延安、宜川等地来找刘志丹了。大家就凑在一起，研究消灭太白民团的办法。正在这时，恰巧在陇东民团军里搞兵运工作的杨树荣（真名姜兆莹）也从庆阳来到了永宁山。他汇报说：“三道川事件发生后，气得谭世麟直骂张廷芝是反复无常的小人。看来咱们准备起义的事，谭世麟一点也不知道。他还要我把刘志丹找回来，仍然当他的第三团骑兵第六营的营长。大家还是把太白民团的副营长穆寿禄叫来，当面交代，叫他来协助办这件事。”