Chùa nằm trên địa phận thôn Hậu (xã Liên Chung), tọa lạc trên thế đất hình “long xà”, được xây dựng vào trước năm 1713. Chùa Cống Phường là công trình văn hóa tôn giáo cổ, đã qua nhiều lần trùng tu, nhưng vẫn lưu giữ được nhiều nét cổ kính và hệ thống kiến trúc thời Lê Trung Hưng. Các cổ vật có những đường họa tiết, hoa văn trang trí chạy quanh thể hiện sự kế thừa của phong cách nghệ thuật tạo dựng từ thời Mạc.

Chùa Cống Phường có quy mô lớn, vững chãi, song không có một pho tượng nào. Trên các bệ chỉ đặt nồi hương. Ông Nguyễn Vân Đài, người dân thôn Hậu cho biết, những năm 70 của thế kỉ XX vẫn còn 3 pho tượng ốc được đặt trên cao. Sau đó và cho đến giờ không còn pho tượng nào được đặt ở đây.

Chùa Cống Phường có giá trị nghiên cứu về lịch sử - văn hóa được thể hiện qua phong cách kiến trúc và niên đại của các hiện vật, cổ vật như: Cây hương đá tạo dựng vào năm 1713, triều vua Lê Dụ Tông, niên hiệu Vĩnh Thịnh thứ 9; bát hương sành Phù Lãng (thế kỉ XIX), bát hương gốm, men da lươn (thế kỉ XIX) và hệ thống các đồ thờ cổ có niên đại thời Nguyễn (thế kỉ XIX - XX) như: bát hương gốm men nâu, đĩa sứ men lam, mõ thờ...

Do di tích tọa lạc ngay giữa gáy của long xà, nên việc thờ Phật là rất “nghịch”, dân trong thôn người già thì thác sớm, trai tráng ra trận thì tử trận, cây cối, vật nuôi chết nhiều...

Sang thời Nguyễn (khoảng thế kỉ XIX), nhân dân địa phương đã làm lễ hóa toàn bộ tượng gỗ và tượng đất chỉ để các bục thờ vọng. Hệ thống tượng Phật nhân dân thả trôi theo dòng sông Thương tại bến Cống Chuông, cách di tích chùa Cống Phường 800m về phía Tây; hệ thống tượng đất được hoá tại hố Nẻo Bụt, hiện nay là khu dân cư Rừng Thừa, thuộc thôn Hậu, xã Liên Chung.

Theo ông Kim Anh Huyền, cán bộ xã Liên Chung đã về hưu, là người cầm chìa mở cửa chùa Cống Phường mỗi khi có người tới hành hương, kể lại: Từ khi làm lễ hóa Phật, dân làng dần từng bước hồi sinh, làm ăn phát đạt, dân khang, vật thịnh, cây cối tốt tươi, mùa màng bội thu. Từ đó dân gian lưu truyền và gọi chùa Cống Phường là chùa Không Bụt.

Đây là chùa cổ, lạ trên đất Bắc Giang bởi lẽ đây là một công trình văn hóa tôn giáo mà lại không có tượng Phật thờ. Chùa không Bụt cũng là hiện tượng hiếm thấy không đâu có. Tương truyền đây vốn là ngôi chùa âm hồn, thờ cúng những người chết trận...

Ngày nay, người dân vẫn tới đây thắp hương vào ngày rằm, mùng 1 nhưng các hoạt động vui chơi, giải trí, họp chợ thì không diễn ra tại khu vực này.

Trước cửa chùa là cây hương đá có niên hiệu Vĩnh Thịnh thứ 9 (1713, triều vua Lê Dụ Tông). Tên phường Cống còn được khắc ghi trên cây hương đá này.