1961年5月马来西亚联邦总理东古·拉赫曼首先提出由马来西亚联邦和英国殖民地新加坡、沙巴、沙捞越、文莱组成的马来西亚联邦的计划，得到新加坡自治邦总理李光耀支持，英、美尽力促成了这一计划的实施。

1963年2月，马、新、沙巴、沙捞越和文莱就建联邦问题在沙巴首府举行会议，马、新双方达成妥协，7月9日在伦敦举行马来联邦协定签字仪式，马来西亚联邦、新加坡、沙巴、沙捞越的代表签署了《关于成立马来西亚联邦的协定》，规定缔结协定的四方组成英王领导下的马来西亚联邦，确认新加坡自由港的地位。9月16日，拉赫曼宣布马来西亚联邦成立。

1965年8月，新加坡退出联邦，单独成立新加坡共和国。