Đền Thượng tọa lạc ở trung tâm làng Trung Kiên (Hoàng Lao) xưa, nay là xóm Chùa 2, xã Nghi Thiết. Theo "văn bia bốn mặt" của làng, đền được xây dựng vào năm 1657 để thờ tứ vị Thánh nương và các vị thần có công với dân, với nước.

Đền gồm 2 tòa: hạ đường và thượng điện. Hạ đường hay còn gọi là tòa ca vũ được dựng theo kiểu tứ trụ 3 gian với 16 cột, kết cấu theo kiểu giá chiêng kẻ chuyền.

Các cụ cao niên ở địa phương cho biết, trên khung gỗ lim của hạ đường từng được chạm khắc hình rồng, phượng, hoa, mây… khá đẹp mắt, nhưng trong một trận hỏa hoạn năm 1972, tất cả các chi tiết này đã bị cháy. Năm 2018, trong quá trình trùng tu, Ban Quản lý di tích vẫn giữ nguyên khung gỗ này, chỉ "bọc" thêm phía ngoài các cột, hạ, xà… một lớp hợp chất để bảo vệ.

Thượng điện cũng là một ngôi nhà lim 3 gian 16 cột làm theo kiểu tứ trụ, nhưng trên khung gỗ, từ kẻ, xà, hạ ...vẫn còn nguyên các tác phẩm điêu khắc chạm trổ độc đáo của người xưa.

Trên các đường xà, đuôi cột đều được điêu khắc chạm trổ sắc nét những hình ảnh như rùa đội bàn thờ, phượng hàm thư…

Đặc biệt, trên đường xà ở gian giữa thượng điện được chạm hình lưỡng long triều nguyệt cùng các giải mây, mưa xuyên suốt. Đây là một trong những tác phẩm độc đáo nhất ở đền Thượng thể hiện trình độ điêu khắc chạm trổ của nghệ nhân xưa.

Sau hàng trăm năm tồn tại, đền Thượng vẫn hiện hữu như một địa điểm sinh hoạt tâm linh quan trọng của người dân làng biển và được tôn tạo ngày một đẹp hơn. Năm 2018, người dân các xóm thuộc làng Trung Kiên xưa, cùng với các mạnh thường quân đã phát tâm công đức quyên góp gần 2 tỷ đồng để trùng tu lại đền Thượng. Đền Thượng đã được công nhận là Di tích Lịch sử văn hóa - Kiến trúc nghệ thuật Quốc gia vào năm 1992.