En la Parroquia del Sagrario Matriz, con sede en la Catedral, que ya existía el año 1492, se había erigido una Cofradía a la Virgen del Carmen.

El 8 de Febrero de 1608 el Cabildo Catedral aceptó que se celebrara sus cultos en la Capilla de la Virgen de la O. Poco después, a esta Capilla se le comienza a llamar de la Virgen del Carmen. En 1690 ya se sacaba en procesión la primitiva imagen.

Luego, cuando se derribó el año 1781 la Iglesia del Sagrario con la Capilla de la Virgen del Carmen para ampliar la Catedral, La Parroquia con todas sus pertenencias pasó a la iglesia del primer Hospital de San Martín, edificado junto a la Catedral, donde hoy está la calle San Marcial.

Al final del siglo 18, y para seguir ampliando la Catedral, se derribó el primitivo Hospital de San Martín, y la Parroquia pasó a la iglesia del Seminario, en la calle Dr. Chil, cuyo titular es San Francisco de Borja y regida por los PP. Jesuitas.

Al pasar la Parroquia del Sagrario Matriz de una iglesia a otra, pasaba también sus pertenencias como el Archivo Parroquial con los libros sacramentales, la Pila Bautismal, la imagen de la Virgen del Carmen… Estando en la iglesia de los jesuitas, su cura ecónomo don Mariano Rodríguez del Castillo le encargó, al gran escultor grancanario, José Lujan Pérez, la actual imagen. Fue su última obra que la dejó inacabada el año 1815. El 10 de Marzo de 1816 fue bendecida y entronizada en nuestra Parroquia.
El Seminario Diocesano estaba junto la Iglesia de San Francisco de Borja y necesitaba la Iglesia para uso litúrgico de los seminaristas. Por otra parte, los Padres Agustinos habían abandonado el Convento como consecuencia de la ley de desamortización y la iglesia conventual se había quedado cerrada y sin cultos.
Entonces, el Obispo Don Buenaventura Codina, decretó el 9 de Septiembre de 1852, que la Parroquia del Sagrario Matriz pasara a dicha Iglesia con el nombre de Parroquia Matriz de San Agustín. El traslado con todas las pertenencias, incluida la imagen de la Virgen del Carmen, se realizó el día 16 de septiembre del mismo año.

Consta en los Libros de Cuentas de la Parroquia que en el siglo 19 el Ayuntamiento de Las Palmas Gran Canaria colaboraba en la novena y en la fiesta y organizaba festejos en toda la Ciudad, desde Vegueta al Puerto de la Luz. La devoción a la Virgen del Carmen se ha extendido profusamente por nuestras islas. Actualmente se celebra su fiesta con diversos actos religiosos, incluso con procesiones terrestres y marítimas en 77 iglesias parroquiales o ermitas de nuestra Diócesis y en muchos de esos pueblos también con festejos populares

Hay una tradición popular de visitar su imagen en esta parroquia todos los miércoles. Anualmente se celebra el solemne novenario y el 16 de julio sale en procesión por las calles de Vegueta.