วัดปรมัยยิกาวาส เป็นวัดโบราณ คาดว่าน่าจะสร้างหลังจากที่ พระเจ้าท้ายสระ โปรดให้ขุดคลองในปี พ.ศ. 2264 ชาวเรือจึงเรียกวัดแห่งนี้ว่า วัดปากอ่าว จนเมื่อปี พ.ศ.2307 พม่าบุกยึดเมืองนนทบุรี ทำให้ที่นี่กลายเป็นวัดร้าง และในปี พ.ศ.2317 ชาวมอญที่อพยพมาในรัชสมัยสมเด็จพระเจ้าตากสินมหาราช ก็ได้บูรณปฏิสังขรณ์วัดขึ้นใหม่ วัดแห่งนี้จึงเป็นศูนย์กลางของชุมชนมอญบนเกาะเกร็ด
ภายหลัง ในหลวงรัชกาลที่ 5 เสด็จมายังวัด และทรงเห็นว่าวัดปากอ่าวทรุดโทรมมาก จึงโปรดเกล้าฯ ให้ปฏิสังขรณ์วัดใหม่ทั้งวัดโดยรักษารูปแบบมอญไว้ เพื่อถวายเป็นพระราชกุศล สนองพระคุณพระเจ้าบรมมหัยยิกาเธอ กรมสมเด็จพระสุดารัตนราชประยูร ผู้ทรงอภิบาลพระองค์มาแต่ทรงพระเยาว์ และได้พระราชทานนามวัดว่า "วัดปรมัยยิกาวาส" ซึ่งมีความหมายว่า "วัดของพระบรมอัยยิกา" นั่นเอง