Chùa nổi danh từ thời Đinh Bộ Lĩnh dẹp loạn 12 sứ quân
Tên gọi khác của Chùa Côn Sơn là Chùa Hun. Đây là tên được nhân dân xung quanh quanh thường gọi. Theo ghi chép và lời kể của những người già trong làng, tên bắt nguồn từ thời Đinh Bộ Lĩnh dẹp loạn. Khi ấy, trong lúc giao chiến, có một tướng giặc lợi dung cảnh vật um tùm rừng núi Côn Sơn để trốn, quân lính của Đinh Bộ Lĩnh bao vây không thể vây bắt bèn nghĩ ra cách đốt lửa để tướng giặc phải thoát chạy ra ngoài.
Cái tên Chùa Hun được bắt nguồn từ đó.Lại có câu chuyện khác về nguồn gốc tên gọi kỳ lạ này của chùa, bắt nguồn từ tục đốn củi, đốt rừng làm nương của nhân dân trong vùng thời đó nên cảm giác lúc nào cũng có khói bao phủ khắp ngọn núi. Dân gian vì vậy cũng quen gọi chủa Côn Sơn là Chùa Hun.