Cứ mỗi độ xuân về, khách thập phương lại du lịch Lạng Sơn đến trung tâm thành phố để cùng người dân tham dự ngày hội lớn nhất hàng năm tổ chức vào ngày 22 – 27 tháng giêng là lễ hội Tả Phủ – Kỳ Lừa.
Lễ hội nhằm tôn vinh ông thân công Tài là quan đầu phủ đã có công sáng lập phố kỳ lừa và tổ chức mối quan hệ buôn bán giữa Việt Nam với nhiều vùng của Trung Quốc. Nét nổi bật trong dịp lễ hội Kỳ Lừa là người ta tổ chức nghi lễ rước kiệu thần từ đền Tả Phủ về đền Kỳ Cùng – nơi thờ quan Tuần Chanh vào sáng ngày khai hội rồi rước trở lại vào ngày giã hội một cách trang nghiêm.
Trong lễ hội này cũng tổ chức nhiều nghi lễ và trò chơi như múa rồng, múa sư tử, tục cướp đầu pháo, … Không những người dân bản và thành phố Lạng Sơn đến dự đông mà còn có du khách từ một số vùng ở Trung Quốc cũng đến dự hội vui xuân.
Theo ghi chép đền kỳ cùng thờ quan Tuần Tranh thuộc nhà Trần là vị quan triều đình cử lên Lạng Sơn trấn ải biên thuỳ. Một lần đánh trận, quân của ông bị ốm đau và thương vong nhiều, sợ triều đình phạt nên ông đã nhảy xuống sông kỳ cùng tự vẫn.
Đến đời nhà Lê, khi tả Đô đốc Hán quận công Thân Công Tài lên Lạng Sơn nhận chức, khi nghe kể câu chuyện này đã viết sớ tâu với nhà vua để biện minh cho ông.
Hán Quận Công Tài, sinh năm 1620, xuất thân trong một gia đình quý tộc cao quý, dòng dõi nhiều người làm quan, có tài đức vẹn toàn được chúa trịnh trọng dụng bổ nhiệm lên là phó tướng đô đốc cùng với vũ quận Công Vi Đức Thắng trấn giữ biên thuỳ cải cách đất nước, mở rộng mối quan hệ ngoại giao với các nước lân ban.
Từ một vùng đối núi hoang vu, dân cư thưa thớt, ông đã cố gắng xây dựng, san lấp tạo nên phố phường là nơi sinh sống của các dân tộc, cửa ngõ mua bán sầm uất, tấp nập thu hút thương nhân miền xuôi ngược từ nước ta sang Trung Quốc. Tạo thành trung tâm kinh tế khang trang, sầm uất, và ổn định tại khu phố Kỳ Lừa nổi tiếng ngày nay.
