1931年，“临时行动委员会南方委员会”（简称“南委会”）在广州成立，领导广东、福建、江西、湖南、湖北、四川六省和香港地区组织的党务工作。南委会成员以中山大学、矛庐图书社等为主要活动据点，在各大专院校发展组织，进行倒蒋抗日活动。
    1950年1月，农工党广东省工委会按照农工党中央决定，成立“党务整理委员会”（简称“整委会”），对农工党党员（工、农、兵成份的成员除外）进行重新登记。
    1951年8月15日，经农工党中央核准，成立“农工党广东省广州市工作委员会筹备委员会”。1952年2月8日正式成立了“农工党广州市工作委员会”（简称“市工委会”），机关设在广州市南堤二马路38号三楼。在农工党上级组织和中共广州市委的领导下，市工委会积极参与广州市地方事务的管理工作，发动党员积极投身抗美援朝，提倡和推动爱国增产节约运动，广泛开展思想改造运动。
    1954年8月，市工委会在广州召开第一次党员大会，成立农工党广州市委员会，与农工党广东省委员会合署办公，积极参与广州市重大事项的政治协商，发动和教育党员积极投身社会主义革命和社会主义建设事业。直至1959年，农工党广东省委员会、广州市委员会机关分署办公，基层组织也按省、市系统进行相应调整。
    1957年至1966年，市委会发展组织处于停顿状态。市委会主要工作是贯彻“服务与改造相结合”的方针，推动党员积极为社会主义服务和加强自我改造，学习政治理论和时事政策，深入工厂、农村参加劳动锻炼。绝大多数农工党党员经受了严峻考验，始终如一地信赖中国共产党，坚信马列主义、毛泽东思想的科学真理，坚信只有社会主义才能救中国。
    “文革”结束后，市委会于1977年12月恢复活动。1980年1月初召开农工党广州市第六次代表大会，决定把工作重点转移到为社会主义现代化建设服务上来。市委会在“长期共存、互相监督、肝胆相照、荣辱与共”方针的指引下，同中共亲密合作，参加地方政权，参与地方重大事项的协商，参与地方事务管理，参与地方性法规的制定执行，为广州市的物质文明、政治文明和精神文明建设作出应有的贡献。
    在新的历史时期，中共中央颁布了《中共中央关于坚持和完善中国共产党领导的多党合作和政治协商制度的意见》《中共中央关于进一步加强中国共产党领导的多党合作和政治协商制度建设的意见》《中共中央关于加强人民政协工作的意见》三份指导中国多党合作事业发展的纲领性文件，市委会深刻领会和贯彻文件的精神，坚持以邓小平理论和“三个代表”重要思想为指导，认真贯彻落实科学发展观，以搞好政治交接为主线，深化学习践行社会主义核心价值体系活动，大力加强自身建设，切实履行参政党职能，积极协助中共市委和政府科学决策、民主决策；加强与对口联系单位沟通，通过省、市、区特约人员等多渠道、多形式发挥民主监督作用；围绕中心、服务大局，积极建言献策。
    进入中国特色社会主义新时代，市委会在习近平新时代中国特色社会主义思想的指引下，深入学习贯彻《中国共产党统一战线工作条例》，全面加强思想、组织和制度建设，先后开展“不忘合作初心，继续携手前进”主题教育活动，“中共党史学习教育”“矢志不渝跟党走、携手奋进新时代”政治交接主题教育，引导广大党员坚决捍卫“两个确立”，增强“四个意识”、坚定“四个自信”、做到“两个维护”，毫不动摇坚持中国共产党的领导，坚定不移走中国特色社会主义道路，共同坚持好、发展好、完善好中国共产党领导的多党合作和政治协商制度。以推动高质量发展作为参政议政主题，牢固树立大局观念，紧紧围绕中共广州市委、市政府中心工作，不断拓宽调研渠道，深入开展调研活动，找准着力点，议政建言，履职尽责，广泛发动党员积极参与社会服务，依托“国际科学与和平周”“中国环境与健康宣传周”、广州市统一战线同心志愿服务队活动平台，整合资源，持续开展送医送药、助医助学、文化传播等活动，推进医疗、教育、文化等精准帮扶。同时，着力丰富社会服务内涵，深入推进“同心圆”工程、“小书包 大梦想”“小药箱 大健康”这三个品牌项目，推进与新华网建立的“互联网+公益”合作新模式，传播“大爱同心、温暖同行”理念，切实服务民生，展现了农工党的良好社会形象。
    市委会从成立起至2023年3月底，经历了十五届委员会，党员人数从131人发展至2835人，基层组织147个（其中直属基层组织33个）。