Tương truyền để lại, vào năm 1349 đời vua Trần Dụ Tông, ở làng Chều có gia đình cụ Trần Văn Hám làm nghề xay gạo. Thấy dân làng khó khăn, gạo làm ra tiêu thụ chậm nên cụ Hám đã nghĩ ra cách ngâm gạo rồi giã nhuyễn đem hấp trên nồi nước sôi. Khi nước bột thành bánh mới đem ra phơi nắng, sản phẩm đó được gọi là bánh đa nem, từng một thời trở thành đặc sản cung tiến vua chúa.

