1898年12月8日，吴亚鲁生于江苏省如皋县潮桥镇（今属如东县马塘镇）的一个贫苦知识分子家庭，自幼受到良好的教育。1916年考入如皋师范。毕业后到南通金沙教书半年。

1920年，他以优异成绩考入南京高等师范学校教育专修科。在校期间阅读了《新青年》等进步书刊，参加少年中国学会，投身革命活动。1921年，他加入了中国社会主义青年团。1922年2月5日，在南京高等师范学校的梅庵，他成立了中国社会主义青年团南京地方委员会，并当选为主要负责人。他在团中央和邓中夏同志的领导下，发动组织“南京民权运动大同盟”，不久，吴亚鲁在南京加入了中国共产党，成为南通地区第一位共产党员。

1922年暑假，吴亚鲁回到家乡，在青年学生中积极开展宣传活动。他邀集学生50多人，创建了以反帝反封建为宗旨的进步团体——平民社，并创办社刊《平民声》，他任社长。这是南通地区最早的进步团体。同时他还积极联合潮桥附近的一些进步青年，组成潮桥青年学友会，刊行《潮桥青年》，揭露土豪劣绅的罪恶，传播革命思想。一批有志青年，在他的引导下投身革命。苏德馨、叶胥朝、陆景槐、丛永琮、吴亚苏等青年都在他的引导下走上革命道路，成长为党的优秀干部。