马来西亚华人大规模移居南洋的历史是在清代鸦片战争之后开始，英属马来亚与婆罗洲的英殖民政府因《北京条约》大量引入华工，一直到马来西亚独立建国之后，华人已成为当地的第二大族群。而当今马来西亚华人主要由清末民初的中国移民组成。
据《水经注》引《晋书地道记》，汉朝日南郡朱吾县居民不满县吏苛政，逃至马来半岛屈都昆。
据中国古籍记载，于唐朝时期就已有少量唐人南下马来半岛一带进行商业活动；《新唐书》记载，吉兰丹在667和669年向唐朝献方物；柔佛是商人往来凑集之地，年年都有商人乘船到广州。。当时唐人主要是暂居经商，并无大量定居。
元朝时马来半岛古国龙牙门已有中国人和当地人通婚杂居。
到了明代，郑和下西洋时曾多次在马六甲（明史称为满剌加）停留，后来将马六甲、巨港（今属印尼）、泗水（今属印尼）等营建成其船队的大本营。至今马六甲仍然留有大量与郑和有关的遗迹。
一些华人因为和当地人通婚，开始在马六甲定居，渐渐受马来文化影响，繁衍开来。此时开始，华人开始在马六甲形成聚落定居，成为组成马六甲重要的一个民族。明 朝衰弱后，这些通婚华人的后裔由于交通不便、明朝闭关政策等因素，开始与祖国关系疏远。在与本土文化相互交融的情况下，他们逐渐形成一支新的民族——娘惹峇峇（Nyonya-Baba）。娘惹峇峇的母语也由方言（主要是福建话）慢慢转变成夹杂方言以及马来语的娘惹峇峇语（Peranakan Hokkien），但依然保留了各种明代的风俗仪式。
明末年间，许多不愿投降的反清义士也流亡南洋。嘉庆年间广东嘉应县人叶亚来，流寓新加坡。嘉庆末年，柔佛王下令驱逐华人。柔佛华人推举叶亚来为首，率领众人战胜柔佛首相；叶亚来购买军械，遣人返国，纠集嘉应县及邻村族人万余，渡海到柔佛，血战八年，平定柔佛全境。其时槟榔屿华人，与土人冲突，叶来率众助战，三年平定槟榔屿。后叶来自量不敌英国势力，将此二地主权交与英国，自保土地所有权。光绪初年在雪兰莪和霹雳州采锡矿的华工有十几万人。雪兰莪王待华工苛刻，华工奋勇战斗，平定雪兰莪。其时霹雳州华人也平定霹雳。
而华人大量移民今马来西亚各地则是从鸦片战争后开始，当时清朝战败，英法与清朝签署《北京条约》， 清廷承认国民前往海外谋生的权利，由于当时英国殖民者需要大量的人力资源以开发马来亚半岛，大量的华工（或称为苦力）从中国输入到马来亚半岛成为矿工、种 植工人等。在蒸汽船使用后，华侨南来的数量更是急剧上升。此期华人移民人数已经大幅度超越早期的娘惹峇峇，所以被早期定居的人称为“新客”。此时华工们的侨乡意识浓厚，多半希望赚够钱后衣锦还乡，故没有扶老携幼全家移民马来，导致当时马华主族群的男女比例严重失衡。
时至1929年，全球开始经济大萧条，英殖民政府停止输入中国劳工。此时，华侨妇女开始大量移民马来亚，男女人口比例结构趋向平衡。而后，由于世界进入冷战时代，英属马来亚正值马共武装叛乱，移民条例收紧，中国来马的移民潮逐渐减少甚至停止。此后，华人参与了马来亚独立运动与马来西亚的建国运动，并在当地繁衍开来。
