Giữa năm 1946, đến lượt tôi được “nhấc” khỏi huyện Mỹ Hào. Lúc đó, phong trào Mỹ Hào đã có nhiều cán bộ cốt cán có thể thay thế tôi. Trong khi đó thì huyện Yên Mỹ lại cần đến một bí thư Huyện bộ Việt Minh (đương nhiên là kiêm bí thư huyện ủy) trí thức hơn. Huyện Yên Mỹ là huyện trù phú hơn huyện Mỹ Hào, vì vậy, số người có học thức trên tiểu học (được coi là trí thức thời bấy giờ) tương đối đông, số thân hào thân sĩ mà thực chất là thương gia, phú nông và trung nông lớp trên cũng tương đối đông. Một số khá đông trong số họ được xếp vào loại “lừng khừng”, nghĩa là không chống đối Việt Minh, nhưng cũng không mặn mà với Việt Minh. Tôi đã triển khai một loạt lớp huấn luyện có nội dung lý luận để thuyết phục giới trí thức và một loạt cuộc hội nghị mà ngày nay ta gọi là hội thảo để thuyết phục giới thân hào thân sĩ. Khi những thắc mắc của họ được giải tỏa thì thái độ của họ đối với Việt Minh thay đổi hẳn. Sự hòa nhập của họ vào phong trào Việt Minh mà thực chất là phong trào nông dân khiến cho mọi hoạt động trong huyện trở nên suôn sẻ, sôi động hơn.
Trước khi tôi về Yên Mỹ thì quan hệ giữa Huyện bộ Việt Minh với Ủy ban hành chính huyện (tên mới của Ủy ban cách mạng lâm thời) có nhiều trục trặc. Vì bí thư Huyện bộ Việt Minh là một bần nông chưa học hết tiểu học, còn chủ tịch Ủy ban hành chính huyện lại là một cử nhân luật xuất thân từ một gia đình đại địa chủ, được Bộ trưởng Bộ nội vụ Bùi Bằng Đoàn điều động từ Hà Nội về. Giữa họ với nhau dường như không tìm được tiếng nói chung. Đối với tôi thì việc tranh luận, thuyết phục, cảm hóa vị chủ tịch cử nhân luật diễn ra một cách thuận lợi, và chỉ mấy tháng sau, anh đã trở thành một đảng viên cộng sản rất mực nghiêm túc (sau này là Đại tá Võ An Đông).
Những tháng cuối năm 1946, quan hệ giữa ta và Pháp ngày càng căng thẳng, cuộc kháng chiến chống Pháp ngày càng đến gần. Nhiệm vụ trọng tâm của Huyện ủy là một mặt củng cố phát triển lực lượng cách mạng của quần chúng, cô lập trấn áp lực lượng phản cách mạng và bọn cường hào ngo ngoe ngóc đầu dậy, mặt khác xây dựng phát triển lực lượng vũ trang và bán vũ trang.
Tháng 11 năm 1946, trong một cuộc hội nghị mở rộng của Tỉnh ủy, tôi được bổ sung vào Tỉnh ủy. Với tư cách tỉnh ủy viên, tôi được giao chức vụ Chủ tịch Ủy ban kháng chiến huyện là một cơ quan mới được lập ra, có quyền lực trùm lên Ủy ban hành chính huyện và Huyện bộ Việt Minh, có quyền trưng thu mọi nguồn lực vật chất để đáp ứng cho nhu cầu của kháng chiến.
Trong không khí chuẩn bị kháng chiến sôi sục, tôi tổ chức những cuộc duyệt binh tự vệ chiến đấu đông hàng ngàn chiến sĩ, củng cố đội ngũ các đội tự vệ chiến đấu xã, thành lập một đại đội “Tự vệ chiến đấu tập trung huyện” (sau này gọi là bộ đội địa phương huyện) do Chủ tịch Ủy ban kháng chiến huyện đích thân làm chính trị viên, đích thân chịu trách nhiệm huấn luyện về chính trị và tư tưởng.
Đầu năm 1947, chiến sự đã lan ra các vùng dọc đường số 5. Nửa phía Bắc huyện Yên Mỹ nằm trong vùng chiến sự. Bộ đội huyện (tức Đội tự vệ chiến đấu tập trung) đã có một số trận giáp chiến với địch. Chúng tôi chọn lối đánh du kích, từng tiểu đội nấp sau lũy tre làng, bắn rồi rút chạy, hiệu quả tuy không lớn, nhưng thiệt hại cũng không có gì đáng kể. Nhưng có một lần, địch huy động một lực lượng lớn, một cánh theo xe thiết giáp tiến theo đường 39, một cánh bí mật vòng qua cả một cụm làng mà chúng tôi bố trí quân, khiến cho quân ta nằm lọt trong vòng vây của địch. Chúng tôi thiệt hại nặng: đại đội trưởng cùng 2 chiến sĩ hy sinh, chính trị viên cũng suýt chết. Sau trận đó, tôi phổ biến cho các huyện bạn lối đánh vu hồi của địch để tìm cách đề phòng. Sau này, càng ngày càng nhận ra lối đánh vu hồi là lối đánh lợi hại mà quân Pháp rất hay áp dụng.
Có một câu chuyện nhỏ, kể lại cho vui:
Đội tự vệ chiến đấu của huyện tôi quần nhau với địch mới được vài tháng thì nhận được một tờ truyền đơn với nội dung: “Quân đội Pháp treo giải thưởng 10.000 đồng Đông Dương cho người nào giúp quân đội Pháp bắt được Capiten (Đại uý) Vũ Quốc Thanh”. Hồi đó, bộ đội địa phương huyện đã làm gì có quân hàm! Chẳng qua là vì bọn chúng biết được đơn vị chiến đấu của tôi là một đại đội cho nên gán cho người chỉ huy quân hàm Capiten (Đại úy) giống như trong quân đội Pháp. Còn Vũ Quốc Thanh là tên công khai của tôi hồi hoạt động ở Yên Mỹ. Sự kiện này làm tôi thích thú: một đơn vị bộ đội địa phương huyện mới thành lập mà đã làm cho quân đội Pháp phải kiêng nể!
Tôi thường xuyên đi sát các xã, họp với các chi bộ, chính quyền và du kích xã. Một lần đến xã Thanh Xá là một xã giáp đường số 5. Nhân dân đã đi tản cư, chỉ còn du kích ở lại. Xã vừa mới bị giặc càn chiều hôm trước, một số nhà cháy còn bốc khói khét lẹt. Đang họp thì một toán tuần tra của địch bắn như vãi đạn vào làng. Đồng chí bí thư chi bộ dẫn tôi đến nơi trú ẩn. Đó là một cái hốc luồn sâu dưới đám rễ tre, phía trên là những bụi tre rậm rạp. Nấp dưới cái hốc vẫn nghe rõ tiếng giầy đinh thình thịch của quân địch chạy bên rìa làng. Toán quân địch đi qua, tôi cùng các đồng chí du kích đi xem các chỗ ẩn nấp. Để bám sát địa bàn, các đồng chí đã phải tạo lập cho mình nhiều chỗ ẩn nấp, phần nhiều là các hốc đã hình thành sẵn giữa lũy tre bao quanh làng, nay được khoét sâu thêm và được nguỵ trang. Có một chỗ ẩn nấp được tạo lập công phu hơn: muốn chui vào cái hốc nằm sâu dưới lũy tre thì phải lội xuống ao, lặn một hơi rồi mới chui vào được. Hầm được thông hơi bằng những đoạn tre đã khoét rỗng cắm vào giữa bụi tre. Tôi đã đem kinh nghiệm này phổ biến cho các xã khác. Ở các huyện bị chiếm sớm như Văn Lâm, Mỹ Hào, Văn Giang, cũng xuất hiện những kinh nghiệm đầu tiên về hầm bí mật. Những kinh nghiệm này đã được phổ biến rộng rãi trong vùng bị tạm chiếm của tỉnh.