Theo tài liệu cổ thì chùa Phật Tích được khởi dựng vào năm Thái Bình thứ tư (1057) với nhiều tòa ngang dãy dọc. Năm 1066, vua Lý Thánh Tông lại cho xây dựng một cây tháp cao.
Sau khi tháp đổ mới lộ ra ở trong đó bức tượng Phật A-di-đà bằng đá xanh nguyên khối được dát ngoài bằng vàng. Để ghi nhận sự xuất hiện kỳ diệu của bức tượng này, làng đổi tên là Phật Tích và dời cả lên trên sườn núi.
Hiện nay, chùa Phật Tích có 7 gian tiền đường để dùng vào việc đón tiếp khách, 5 gian bảo thờ Phật, đức A di đà cùng các vị tam thế, 8 gian nhà Tổ và 7 gian nhà thờ Mẫu.
Chùa Phật Tích Bắc Ninh có kiến trúc của thời Lý, thể hiện qua ba bậc nền bạt vào sườn núi có kè bằng đá tảng dựng đứng như bức tường dài 58m, cao từ 3–5m, ở khoảng giữa tường là lối đi bằng đá rộng 5m có 80 bậc.
Chùa được kiến trúc theo kiểu Nội công ngoại quốc, bậc nền thứ nhất là sân chùa Phật Tích Bắc Ninh với vườn hoa mẫu đơn lưu truyền mối tình duyên trong truyền kỳ “Từ Thức gặp tiên”. Bên phải là miếu Tiên chúa thờ Trần Ngọc Am. Phía trước miếu có dựng một ngọn tháp Linh Quang xây năm Chính Hoà XX (1699).
Bậc nền thứ hai chùa Phật Tích Bắc Ninh là nơi có các kiến trúc cổ ngày nay không còn được thấy. Khi đào xuống nền ngôi chùa này, các nhà khảo cổ học đã tìm thấy nhiều di vật điêu khắc thời nhà Lý và nền móng của một ngôi tháp gạch hình vuông, mỗi cạnh dài 8,5 m.
Nền thứ ba cao nhất, có Long Trì (Ao Rồng) là một cái ao hình chữ nhật, đã cạn nước.
Ngoài ra, chùa Phật Tích còn nổi tiếng với một công trình hết sức hoành tráng và hùng vĩ đó là bức tượng Phật A di đà cao 27m nằm trên đỉnh núi.
Đây là phiên bản được lấy nguyên mẫu từ tượng Phật A di đà trong chùa, được xây dựng nhân dịp kỉ niệm 1000 năm Thăng Long – Hà Nội. Tượng được đánh giá là một trong những bức tượng đá lớn bậc nhất Đông Nam Á với nhiều đường nét chạm khắc rất công phu và tinh xảo.
Sau sân nền có 32 ngọn tháp xây bằng gạch và đá là nơi cất giữ xá lị của các nhà sư từng trụ trì ở đây, phần lớn được dựng vào thế kỷ 17. Ngọn tháp lớn nhất là Tháp Phổ Quang, cao 5,10 m gồm đế, khám thờ, hai tầng diềm và mái mui luyện với chóp tròn.
