该教堂建于1863年，落成于1888年，历时25年始建成，至今有130多年的历史。由于教堂的全部墙壁和柱子都是用花岗岩石砌造，所以又称之为"石室"或"石室耶稣圣心堂"、"石室天主教堂"。1861年,中法不平等条约规定,法国人至通商各口岸地方其租地自行建礼拜堂学房。当时罗马教廷任命的两广教区“宗座监牧”传教士明稽章看中了被夷为平地的两广总督部堂地基，并要求划给他建教堂，但两广总督劳崇光拒绝了他的要求，于是明稽章请法军司令出面，写信威胁劳崇光如果1天以内不给土地给他，法军将实行全城戒严，于是1861年，恭亲王奕忻与法政府鉴署附加协议确定广州圣心大教堂的建立，咸丰帝下诏批准了协议。