Tiền thân trường PTTH Nguyễn Trãi là trường École Normale Supérieure được thành lập năm 1923, đặt tại cửa Bắc Hà Nội. Năm 1930 đổi thành trường Cao đẳng Tiểu học École Normale Supérieure Đỗ Hữu Vị. Đây là một trường lớn có thể sánh ngang các trường Bưởi (Lycée du Protectorat) và trường Đồng Khánh thời bấy giờ. Từ khi thành lập đến năm 1945, hiệu trưởng của trường đều là người Pháp.Năm 1954, trường được di chuyển vào Nam và vẫn mang tên Nguyễn Trãi. Vì không có trụ sở riêng nên trường phải học nhờ tại trường Tiểu học Trương Minh Ký (nay là trường Nguyễn Thái Học) đường Trần Hưng Đạo (Sài Gòn) sau đó chuyển về trường Tiểu học Lê Văn Duyệt (nay là trường Trần Văn Ơn). Đến năm 1964 mới chuyển về địa điểm bây giờ. Mặc dù phải học nhờ địa điểm của các trường khác nhưng các thế hệ thầy trò trường Nguyễn Trãi vẫn giữ được nề nếp học tập, đạo đức truyền thống. Kết quả các kỳ thi Trung học đệ nhất cấp, Tú tài 1, Tú tài 2, thi tuyển vào Đại học không thua kém các trường nổi tiếng thời bấy giờ như Pétrus Ký (nay là trường PTTH chuyên Lê Hồng Phong), Gia Long (nay là trường PTTH Nguyễn Thị Minh Khai), Chu Văn An…