马来西亚拥有四千里的海岸线、二百七十五个左右的岛屿，以及广达十六万平方英里的经济专有水域。它的海军除保卫本身权益外，还联合新加坡及印尼海军共同保卫马六甲海峡。
    一九三八年，新加坡英国皇家海军增设“马来部队”，命名为“新加坡皇家海军义勇队”。一九三九年，海军义勇队成员只有四百名马来人，后来增加到一千四百五十人。一九四二年，日本侵略军到达柔佛时，它参加了新加坡防卫战。新加坡失陷后，转移到锡兰，随后，改称为“马来亚海军小队”。一九四五年九月，日本投降后，它回到新加坡，全部兵力只有六百五十人。一九四七年，为了节省开支，英国当局解散了这支部队。
    一九四八年，重建马来亚海军，成员来自马来亚海军小队。一九五二年八月，命名为“皇家马来亚海军”。它一直隶属于新加坡政府之下，到了一九五八年七月十二日，才移交给马来亚联合邦政府，但仍以新加坡作为它的基地。
    一九五九年，马来亚海军仅有小型舰艇十二艘，舰长只有一位是马来亚人，其余都是英国人;海军指挥官也都是外国人，主要是英国人。一九六0年二月离职的马来亚海军副参谋长诺曼准将就是英国人。继任他的
职务的是澳大利亚海军“海程”号舰长杜华斯。到了一九六七年元旦，才首次任命一个马来人旦纳巴拉辛甘准将(后升为少将)为海军参谋长。现任海军参谋长莫哈末.再因少将则在一九七七年元旦才担任这个职务。
    马来西亚成立后，一九六四年成立“皇家马来西亚海军义勇后备队”的海军辅助部队，下有三个支队，分别设在吉隆坡、槟城及新加坡。这三个支队都接受志愿人员参加，但参加者必须是马来西亚或英联邦国家的公民。规定年令在十七岁以上，新加坡支队的参加者年令是十九岁到三十岁;在吉隆坡及槟城支队的参加者规定不能超过四十岁。超令者必须具有海军经验，否则不予录用。
    参加海军志愿后备队的新加坡支队，如果是士兵，年令至少十九岁，必须修完中学四年级。如果是军官，年令同士兵一样，但学历要求较高，必须获得剑桥九号位文凭。
    皇家马来西亚海军志愿后备队总部设在新加坡直落亚逸河谷，训练中心也在这里。海军后备队的士兵和军官，都必须受六个月的训练。在训练期间，不论士兵或军官都获得一定款额的津贴。受训结束后，他们就被分派到各海军部队去。而且一年之内，有十四日被派到马来西亚海军舰艇，或被派到英联邦国家海军舰艇服役。
    除了在一九七四年成立一支马来西亚亚海军部队之外，还成立了一支水路测量部队。第一艘海军测量船在一九七O年服役，一九七八年，又增加一艘。此外，还拥有三艘美国制的后勤舰艇，这些舰艇除对执行巡逻任务的舰艇提供技术协助、添水。添油等外，还作为陆军部队的运输船使用。