军长王良牺牲，政委罗瑞卿十分悲痛，一直用担架抬着直到进入苏区
1931年10月，罗瑞卿伤愈赴瑞金出席了苏区党代表会议和第一次全国工农兵代表大会。会议期间，毛主席就拟调罗瑞卿到总政治部工作征求他的意见。罗瑞卿希望返回前方，会后便回红四军任政治部宣传部部长兼随营学校政治委员。
1932年1月，中共临时中央不顾毛主席的异议，决定进攻赣州，付出很大代价，打了三十三天，无功而返。
3月间，组建红一军团新的领导机构，由林彪任军团长，聂荣臻任政治委员，陈奇涵任参谋长，罗荣桓任政治部主任。王良任红四军军长，罗瑞卿任红四军政治委员。
同月，根据毛主席的倡议，由红一军团和红五军团组成了东路军入闽作战，攻打漳州。王良、罗瑞卿率领红四军担任主攻，4月19日突破敌人十二岭、风霜岭主阵地后于20日占领漳州。23日，东路军分兵发动群众，红四军前进到海边的石码镇。部队的开路先锋是由第十师师长陈光带领的一百多名精干的红军战士，每人都背着刀把裹着红布的大刀，提着驳壳枪，威风凛凛，后面还跟着两辆汽车。
当地的保安队队长李玉泉误以为是孙连仲的第十九路军，竟在街上摆下茶水、糕点，恭候老总们大驾光临。因此，当红军先头部队进入石码时，当地地下党组织也有些疑惑了。直到曾志来到石码，这个误会才消除。曾志是参加过井冈山斗争的女同志。1930年夏天，她同丈夫蔡协民调到厦门做地下工作。红军打漳州前，曾志得到了消息，急于过海到石码来，但一时没有班轮，便搭了一艘粪船到石码。经她向地方党组织解释，地下党组织才同红军取得联系。
在石码，召开了庆祝漳州、石码胜利群众大会，罗瑞卿即席讲话，由于当地群众听不懂北方话，由当地干部林曼青当翻译。罗瑞卿不带稿子，台前一站，双手叉腰，就讲了起来。他首先说："红军初到此地，因为有些情况不了解，致使反力分子来欢迎我们，而我们的基本群众倒不敢和我们接近了。这叫大水冲了龙王庙，一家人不认得一家人。"接着他对红军战士说，这次红军来到漳州、石码和过去山区环境不同，同志们不但要注意军容风纪，还要遵守城市政策。不要看见洋房子就认为是土豪的而乱打。打土豪之前一定要搞好调查研究，不要搞错。国民党造谣说"共产党杀人放火，扫帚也要过三刀"，我们要用事实揭穿他们的谣言，证明我们是一支为穷苦大众谋利益的仁义之师。接着，他又运用刚刚了解到的材料说："此地有这么一句话，叫作张毅换张贞（二人都是当地军阀），捐税扣两升。昨天我问过一个老阿婆，她说她的一头小猪娃到养大卖出去，共缴了六次税！红军来了，就是要废除一切苛捐杂税，让老百姓直起腰来……"
罗瑞卿常对人说，他在武汉分校时最佩服邓演达的口才，而对蒋介石说起话来"这个这个"不敢恭维。而自从他自己当了红军党代表之后便更以讲话有鼓动性、能抓住听众而著称。在他讲话的风采上，不仅可以看到邓演达的影响，而且又揉进了毛主席每到一地都要进行调查研究以及讲话时多用手势以吸引听众的新风格。
红四军在石码，驻扎于水头、海澄、东美、角美、石美、海沧等地，前锋到达海边，与厦门隔海相望。当时在厦门停泊有各国列强二十馀艘军舰。他们常将军舰到石码附近，在夜里用探照灯向岸上扫。由于红军加强了戒备，未发生武装冲突。
王良、罗瑞卿率领红四军在石码、长寿等地驻扎了四十馀天。这期间，成立革命委员会和反帝大同盟，并由革命委员会出面，经过调查，没收了敌产，对工商业者进行筹款，并在周围农村打土豪。所得财物部分分给群众，部分运回苏区。与此同时，他们广泛发动群众，成立了当地苏维埃政权，吸收了数百人参加红军，其中有海外归来的华侨，有学生、工人，还有一位台湾籍的小提琴演奏家蔡干。有二十多位司机向中央苏区运输物资，随后便参加了红军。
6月13日，红军主动撤回中央苏区。途经武定县时，大禾镇内的地主武装凭借高墙深沟，向红军队伍打冷枪，阻碍红军前进。为了攻打大禾镇，王良、罗瑞卿和参谋长粟裕由东路军指挥部特务连连长带路，来到大禾镇外一间破屋内观察地形。王良、粟裕和罗瑞卿正用望远镜观察，镇内打来两枪，王良突然倒下，罗瑞卿和粟裕赶紧去扶，但他已中弹牺牲。罗瑞卿和王良有深厚的友谊，他十分悲痛，不愿承认王良已死，大禾镇攻克后，仍然用担架抬着王良的遗体，直到进入苏区，在召开了隆重的追悼会后，才将王良安葬。王良留下一块怀表，罗瑞卿一直珍藏着。每逢战斗胜利，他就要打开包着这块表的红绸，给表上满弦，同时低声说道："我们又胜利了！"在他心目中，王良仍然活着。
王良牺牲后，周昆继任红四军军长。红四军随即参加南雄、水口战役，然后在江西省最南部的全南、龙南、定南地区分兵发动群众。3月间，罗瑞卿由于面部伤口老不封口，又住院治疗。
1933年1月，红一军团在黎川县三都整编，决定撤销军的番号，军团直辖第七、第九、第十、第十一师共四个师。罗瑞卿归队后被任命为军团保卫局局长。
不久，第四次反"围剿"开始。2月27日，罗瑞卿和红一军团参谋长徐彦刚奉率领第七、第九师作为红一军团的右翼（左翼是林彪、聂荣臻率领的第十师和第十一师）参加了歼灭敌第五十二师的登仙桥伏击战。这一天大雾弥漫，对面看不见人。敌第五十二师和第五十九师兵分两路由乐安东进，第五十二师在南，第五十九师在北，中间隔有磨罗嶂大山，联络困难。红一方面军总司令朱德、总政治委员周恩来命令红一、红三军团和第二十一军为左翼队在南面伏击敌第五十二师，以第五军团、第二十二军为右翼队，在北面准备歼灭敌第五十九师。左翼队以红一军团的第十、第十一、第九、第七师和红三军团的顺序由西向东在敌第五十二师前进道路之南侧设伏。13时，骄横之敌毫无戒备地全部进入红军伏击地域。
总攻开始后，罗瑞卿、徐彦刚命令第七师首先以一部兵力攻击蛟湖，将敌行军纵队切断，同时，指挥第七、第九师主力向进至大龙坪的敌第五十二师师部猛攻。部队刚冲下山半个小时，前面就来指挥所报告，敌第五十二师师长李明已被活捉。三小时后，红一军团歼其师部和一个旅，红三军团歼其另一个旅，敌第五十二师被全歼。至28日，敌第五十九师大部为红五军团所歼。3月下旬，罗瑞卿又随林彪、聂荣臻参与了歼敌第十一师的草台冈战斗。从第四次反"围剿"到长征结束，加上到陕北后又任红一方面军保卫局局长，罗瑞卿任保卫局局长约三年半时间。
罗瑞卿任红一军团保卫局局长时，保卫局下设侦察部（部长谢志群）和执行部（部长锺人仿）。保卫局的任务有四个方面：
一、训练警卫员，保卫首长。当时团以上干部都配有警卫员（当时称特务员），警卫员的培训由保卫局负责。警卫员一般都要到连队挑选最忠诚、最勇敢的党团员担任。除保卫技术的训练外，主要是锻炼他们的意志和胆量，有时还要安排他们在风雨之夜到荒野、有死尸的地方去送信。有些战士来自山区，文化水平低，年纪小，怕鬼，不敢执行这样的任务。罗瑞卿专门给他们讲了一堂无神论课。他深入浅出地说："人是有思想的，什么叫思想？比如说你会想家，你会看书你会拿枪打敌人。这些行动都是由思想支配的。你如没有思想，就不会拿枪去瞄准，比如木头就不会，人死了以后也不会，如同木头一样，什么也不知道，哪里有么鬼？有什么魂？这是封建迷信，都是地主豪绅编了来骗人的。"此外保卫局还直接担负保卫本单位首长的任务。在这一方面，罗瑞卿更是以身作则，他为了保卫首长，在行军、作战时，除因另行分配任务需离开的情况指定保卫局其他人代替外，总是跟着林彪和聂荣臻，不离左右。他后来任红一方面军保卫局局长以及新中国成立后任公安部部长时，只要是毛主席外出巡视或开大会，罗瑞卿总在毛主席身旁。毛主席要走的路、要去的地方，他都要事先检查一番，布置好警卫，以保证万无一失。有了这位大警卫员，毛主席对自身安全十分放心，因此，常开玩笑地说："天塌下来不怕，有罗长子顶着。"
二、巩固部队，防止反革命分子混入部队进行破坏，防止个别坏分子拖枪投敌。行军时，组织拦阻队（后称收容队），防止开小差。
三、清查俘虏。
四、在边沿区或在白区驻扎、行动时，进行社会侦察，尤其是对敌情、敌特的侦察，破获敌探，防止外部敌人的破坏，对付小股土匪。
保卫局上述任务对于一支在敌人围追堵截下进行战斗的革命军队来说，显然是十分必要的。但当时，各级保卫局有垂直的领导系统，其设置以及工作职责范围和工作方法都仿照苏军模式，并不切合中国红军的实际，在工作中不可避免地带有孤立主义、神秘主义的色彩。而限于历史条件，当时人们还不可能认识到这一点。只是由于罗瑞卿在长期革命斗争中，从毛主席那里学到了调查研究的真功夫，才使红一军团的保卫工作得以避免发生大的差错。这在王明左倾冒险主义统治时期，是十分难能可贵的。罗瑞卿非常注重培养保卫干部实事求是作风。他在向保卫干部讲课时，要求将新闻学中的六要素运用到侦察工作日去。他还把英文中的六要素改为"六何"（即何人、何事、何时、何地、何故和如何），提出侦破每一案子都要弄清"六何"，要求办案人员必须从事实出发。例如，在第四次反"围剿"期间，卫生部从国民党军队缴获了一大批药品，其中有一些包装损坏，没有品名标签。有一些药品从外形看颇似奎宁，便当奎宁发了下去，但这实际上不是奎宁而是吗啡。军团部有两位干部正患疟疾，服了这种药，很快引起药物反应，病人乱抓自己的心窝，并在山上山下发疯似的乱跑。事发后有人认为这很可能是敌人搞破坏，于是赶紧追查。第一个查到军团部的医生游胜华，出身贫穷，是红军自己培养出来的医生，似乎不会。他开的药是上面发下来的，于是追到卫生部医务主任戴济民。戴济民外号叫"戴胡子"，原先在吉安开诊所，罗炳辉起义前在吉安当警卫大队长时同戴济民相识，红军打下吉安后，罗炳辉动员他参加了红军。难道他是AB团？再往上追，追到了军团卫生部部长姜齐贤，由于他是从国民党军队俘虏过来参加红军的，所以被怀疑是故意破坏，姜齐贤本人也忐忑不安。在聂荣臻参与下，罗瑞卿调查了此事，发现确实是发错了药，从而避免了一起错案。由于罗瑞卿工作成绩优良，1933年荣获二等红星奖章一枚。
罗瑞卿自幼喜爱文娱体育活动，到红军后，他仍是体育活动的积极分子。当时在红军中流行一种打克郎克球的游戏，有点类似南充老家的"赶臭牛"，他玩起来兴致颇浓。他最喜爱踢足球，在红军中却难得踢一回。因为在南方山区，难得找到足球场。有时碰到小学的操场或农民的打谷场，他的脚痒了，也要踢一踢，没有足球，就用篮球；怕踢远了掉到沟里去找不回来，便往高处踢。
第四次反"围剿"之后，红一军团转战于赣江和抚河之间，打击敌人的筑碉部队，破坏敌人的封锁线。但除在乌江地区歼灭敌人一个旅以外，战果不大。在这一阶段，部队辗转作战，生活十分清苦。
一次，部队打土豪，保卫局分得一头大肥猪。大家乐坏了，围着潘振武喊道："管理员，这下子瞧你的喽！"于是潘振武亲自掌勺炒了一锅回锅肉。他知道罗瑞卿是四川人，喜欢吃辣椒，便放了很多辣椒，盛了满满一盘，吩咐炊事员给罗瑞卿送去，同时踱到当饭堂的几间茅屋里来，颇为得意地听着大家的表扬。当他走到几位福建籍同志的饭桌时，却看见他们皱着眉头，菜一筷子也没动。潘振武猛然想起福建人不吃辣椒，但已经受到许多江西老表表扬的潘振武并不准备认错。他对那几位满脸不高兴的福建同志说："将就一点吧，这比南瓜汤强多了。"这两句话好比是火上浇油，一个高个子霍地站起来指着潘振武说："你明明知道我们不吃辣椒，这不是故意整人吗？"潘振武也不示弱："当红军是为了工人、农民谋利益，又不是来享福的。"于是吵了起来。
罗瑞卿知道此事后，便让通信员把潘振武叫来。"今天是打牙祭吧？"罗瑞卿一面招呼潘振武坐，一面问。"是啊，局长，您吃起来感到味道怎样？""我吃起来当然好喽，我是四川人嘛！可福建同志不吃辣椒，你知道吗？"他的表情突然变得严肃起来。"知道。"潘振武知道有人告状了，只得老老实实地回答。"知道为什么还要这样做？""为了加点味道照顾……大多数嘛！"潘振武尽力为自己辩解。"不对！"罗瑞卿更加严厉了，"加点味道，出于好心，事先考虑不周也可能，但在饭堂吵起来就是你的不对了。"
潘振武低着头说："我错了。"罗瑞卿看到潘振武认了错，脸色转晴，语重心长地说："这几位福建同志入伍不久，对艰苦的生活还不大适应。好不容易打牙祭，应该让他们吃好。你不要以为吃不吃辣椒是小事，它影响到部队中不同籍贯同志之间的团结。管理员的工作可不简单呀！一把勺子调百人味，关系到同志们的健康，关系到部队的战斗力和团结，这里学问大了！你是个老同志，要做团结的模范嘛！"
"局长，我的工作没做好。今后，您看我的吧！"潘振武激动地站了起来。罗瑞卿又把他按到椅子上："这就好！来，我帮你出个主意……"
第二天中午，每张餐桌上都放了一盆红烧肉，旁边单放了一盘炒辣椒。潘振武又特地来到那几位福建同志面前，对昨天发生的事表示歉意。那个高个子说："管理员想方设法照顾我们，我们该怎么感谢你呢？"于是，大家都纷纷走过来同潘振武握手，有人还开玩笑地喊道："管理员万岁！"潘振武十分激动地说："不要感谢我，是罗局长教我这样做的。