Ngay từ rất sớm Đảng đã thấy rõ tầm quan trọng của việc xây dựng tổ chức Đoàn thanh niên. Hội nghị Ban Chấp hành Trung ương Đảng lần thứ hai, họp từ ngày 20 đến ngày 26/3/1931 (tại nhà số 236, đường Richaud, nay là đường Nguyễn Đình Chiểu, Quận 3, thành phố Hồ Chí Minh) do đồng chí Tổng Bí thư Trần Phú chủ trì đã giành một phần quan trọng trong chương trình làm việc để bàn về công tác thanh niên và chỉ thị cho tổ chức Đảng ở các địa phương phải quan tâm đến việc xây dựng Đoàn thanh niên. Hội nghị đã quyết định thống nhất các tổ chức Đoàn thành Đoàn thanh niên Cộng sản Đông Dương.
Ngay sau khi Đảng Cộng sản Việt Nam ra đời, Đảng và Bác Hồ đã nhận thấy sự cần thiết phải thành lập tổ chức cộng sản của những người trẻ tuổi. Chính vì thế, Hội nghị lần thứ nhất Ban Chấp hành Trung ương Đảng (khoá I) tháng 10/1930 đã ra “Án nghị quyết về Cộng sản thanh niên vận động”.
Thực hiện Án nghị quyết tháng 10/1930, các cơ sở Đoàn đã được xây dựng trên khắp cả nước từ Bắc vào Nam. Tuy nhiên, hệ thống của Đoàn chưa được thống nhất và Đoàn chưa có sinh hoạt riêng. Hội nghị Ban Chấp hành Trung ương Đảng lần thứ hai tại Sài Gòn từ ngày 20 đến 26/3/1931, dưới sự chủ trì của đồng chí Trần Phú - Tổng Bí thư đầu tiên của Đảng đã dành một phần quan trọng trong chương trình làm việc để bàn về công tác thanh niên. Trên cơ sở nghiên cứu bức thư của Ban Chấp hành Quốc tế Thanh niên Cộng sản gửi cho Đảng ta, Hội nghị đã nghiêm túc kiểm điểm đánh giá việc thực hiện nghị quyết lần thứ nhất (tháng 10/1930).
Đến tháng 3/1931, sau một quá trình chuẩn bị, được sự lãnh đạo và tổ chức của Hội Việt Nam cách mạng Đông Dương Đảng Cộng sản Đông Dương; sự lãnh đạo, trực tiếp bồi dưỡng, đào tạo của Nguyễn Ái Quốc, tổ chức cơ sở Đoàn ở nước ta “từ bắt đầu hiếm hoi” với một nhóm nhỏ 8 thiếu niên do Bác Hồ trực tiếp chăm sóc dìu dắt, sau 5 năm đã phát triển và trưởng thành vượt bậc. Lúc này, trên cả ba miền Bắc, Trung, Nam của nước ta đã xuất hiện nhiều tổ chức Đoàn cơ sở với hơn 1.500 đoàn viên. Ở một số địa phương, đã hình thành Đoàn từ cơ sở huyện, tỉnh, dần dần đã trở thành lực lượng hùng hậu, xung kích của Đảng, cống hiến hết mình trong cuộc kháng chiến, kiến quốc, xây dựng Tổ quốc Việt Nam quang vinh.
Thể theo nguyện vọng và đề nghị của tuổi trẻ cả nước, của Ban Bí thư Trung ương Đoàn, được sự đồng ý của Bộ chính trị và Bác Hồ kính yêu, Đại hội đại biểu toàn quốc lần thứ III của Đoàn Thanh niên Lao động Việt Nam (họp từ ngày 22 đến ngày 25/3/1961) đã quyết định lấy ngày 26/3/1931 là Ngày thành lập Đoàn. Từ đó, ngày 26/3 hàng năm trở thành Ngày kỷ niệm, tôn vinh truyền thống vẻ vang của tuổi trẻ Việt Nam, của Đoàn Thanh niên Cộng sản Hồ Chí Minh quang vinh.
Từ ngày 26/3/1931 đến nay, để phù hợp với yêu cầu nhiệm vụ của từng thời kỳ cách mạng, Đoàn đã đổi tên nhiều lần:
Trải qua 90 năm qua, cùng với sự phát triển của đất nước, dưới sự lãnh đạo của Đảng và Bác Hồ, Đoàn TNCS Hồ Chí Minh và các thế hệ thanh niên Việt Nam đã nối tiếp nhau viết nên những truyền thống vẻ vang của các thế hệ đi trước. Đó là truyền thống yêu nước nồng nàn, trung thành tuyệt đối với sự nghiệp của Đảng, gắn bó sống còn với lợi ích dân tộc, nhân dân và chế độ xã hội chủ nghĩa; Truyền thống xung kích cách mạng, xung phong tình nguyện, không ngại hy sinh gian khổ, sẵn sàng đảm nhận và hoàn thành xuất sắc nhiệm vụ mà Đảng và nhân dân giao phó; Truyền thống đoàn kết, tinh thần tương thân tương ái và nhân đạo cao cả; Truyền thống hiếu học, ham hiểu biết, có ý chí vượt khó, cần cù, sáng tạo, dám nghĩ, dám làm, có hoài bão lớn.