Tháng 3.1929, những cộng sản đoàn trong kỳ bộ Thanh niên cách mạng Đồng chí Hội Bắc Kỳ gồm các đồng chí: Trần Văn Cung, Trịnh Đình Cửu, Nguyễn Đức Cảnh, Ngô Gia Tự, Đỗ Ngọc Du, Nguyễn Phong Sắc, Nguyễn Văn Tuân, Dương Hạc Đính đã họp tại số nhà 5Đ Hàm Long, Hà Nội, quyết định thành lập Chi bộ cộng sản và chủ trương thành lập Đảng Cộng sản thay thế Thanh niên cách mạng Đồng chí Hội để lãnh đạo cách mạng.
Ngày 1.5.1929, tại Đại hội lần thứ nhất của Việt Nam Thanh niên Cách mạng Đồng chí Hội, đoàn đại biểu Kỳ bộ Bắc Kỳ kiến nghị giải tán Hội để thành lập Đảng Cộng sản song không được chấp nhận, đã rút khỏi đại hội về nước và ra lời kêu gọi công nhân, nông dân và các tầng lớp nhân dân ủng hộ chủ trương thành lập Đảng Cộng sản.
Và ngày 17.6.1929, những người Đảng viên trong chi bộ 5Đ Hàm Long đã họp tại số nhà 316 Khâm Thiên, Hà Nội, tuyên bố thành lập Đông Dương cộng sản Đảng, cử ra Ban Chấp hành Trung ương lâm thời gồm các đồng chí Trịnh Đình Cửu, Nguyễn Đức Cảnh, Ngô Gia Tự, Trần Văn Cung, Nguyễn Phong Sắc, Trần Tư Chính, Nguyễn Văn Tuân.
Đại hội toàn quốc lần thứ I của Việt Nam thanh niên cách mạng Đồng chí Hội bế mạc, 6 ủy viên vừa được bầu vào Tổng bộ là các đồng chí: Hồ Tùng Mậu, Nguyễn Thiệu, Châu Văn Liêm, Nguyễn Sĩ Sách, Lê Hồng Sơn, Phạm Văn Đồng đã họp bàn và thống nhất thành lập Đảng Cộng sản. Thực hiện chủ trương trên, những cộng sản Đoàn còn lại trong Việt Nam thanh niên cách mạng Hội cũng đã hình thành các chi bộ cộng sản. Ngoài hai chi bộ ở Bắc Kỳ và Trung Kỳ còn có chi bộ cộng sản người Việt Nam ở Thái Lan và một chi bộ ở Hong Kong (Trung Quốc).
Thượng tuần tháng 8.1929, An Nam Cộng sản Đảng được thành lập. Hội nghị cử ra Ban lâm thời chỉ đạo của Đảng bao gồm các đồng chí Châu Văn Liêm (tức Việt), Nguyễn Thiệu, Trần Não, Hồ Tùng Mậu, Lê Hồng Sơn, Nguyễn Sĩ Sách do đồng chí Châu Văn Liêm làm Bí thư.
Sau Đông Dương cộng sản và An Nam cộng sản, các Đảng viên Tân Việt Cách mạng Đảng chịu ảnh hưởng của Việt Nam thanh niên cách mạng Đồng chí Hội cũng tiến hành Đại hội thành lập Đông Dương cộng sản Liên đoàn vào ngày 1.1.1930. Đại hội chưa kịp kết thúc thì các đại biểu bị chính quyền Pháp bắt. Do vậy, Đông Dương cộng sản Liên đoàn ra đời nhưng chưa có Ban chấp hành Trung ương.
Sau khi ra đời, Đông Dương cộng sản Đảng và An Nam cộng sản Đảng có sự tranh giành ảnh hưởng, tranh giành quần chúng và công kích lẫn nhau.
Những người cộng sản và những người yêu nước chân chính nhận thấy cần sớm khắc phục hiện tượng trên và thành lập một Đảng Cộng sản thống nhất để lãnh đạo Cách mạng Việt Nam tiến lên.
Trước tình hình ba tổ chức cộng sản cùng xuất hiện trong một nước, Quốc tế Cộng sản đã gửi thư cho những người cộng sản ở Đông Dương nêu rõ: Nhiệm vụ quan trọng và cấp bách hơn cả của những người cộng sản Đông Dương lúc này là sớm thành lập một Đảng cách mạng của giai cấp vô sản. Đảng ấy phải là một đảng duy nhất ở Đông Dương. Quốc tế Cộng sản giao trách nhiệm cho đồng chí Nguyễn Ái Quốc “Hợp nhất các phần tử cộng sản chân chính lại” để thành lập một Đảng duy nhất.
Thực hiện sự chỉ đạo của Quốc tế cộng sản, Hội nghị thống nhất các tổ chức cộng sản Việt Nam họp đúng vào dịp Tết Canh Ngọ, từ ngày 3 - 7.2.1930 tại bán đảo Cửu Long, Hương Cảng (Trung Quốc) để thành lập một Đảng Cộng sản duy nhất và thống nhất ở Việt Nam.
Đồng Chí Nguyễn Ái Quốc thay mặt Quốc tế Cộng sản đã triệu tập và chủ trì Hội nghị. Dự Hội nghị có các đồng chí Nguyễn Đức Cảnh, Trịnh Đình Cửu thay mặt Đông Dương cộng sản Đảng; Châu Văn Liêm, Nguyễn Thiệu thay mặt An Nam cộng sản Đảng; Đông Dương cộng sản Liên đoàn cử đồng chí Hạ Bá Cang (Hoàng Quốc Việt) đi dự hội nghị nhưng không kịp đến họp. Sau khi Đảng Cộng sản Việt Nam được thành lập, ngày 24.2.1930, Đảng đã tiếp nhận Đông Dương cộng sản Liên đoàn vào Đảng Cộng sản Việt Nam.
Sau 5 ngày làm việc khẩn trương trong hoàn cảnh bí mật, Hội nghị nhất trí lấy tên đảng là: Đảng Cộng sản Việt Nam, thông qua chính cương, sách lược vắn tắt, điều lệ của Đảng và Điều lệ vắn tắt của các đoàn thể quần chúng.
Chính cương, sách lược của Đảng tuy vắn tắt nhưng xác định đúng những vấn đề cơ bản của cách mạng Việt Nam. Điều đó có ý nghĩa to lớn đối với toàn bộ quá trình hoạt động của Đảng. Những văn kiện lịch sử này đều do đồng chí Nguyễn Ái Quốc khởi thảo. Nhân việc thành lập Đảng, đồng chí Nguyễn Ái Quốc đã ra lời kêu gọi công chức, nông dân, binh lính, thanh niên, học sinh và toàn thể quần chúng bị áp bức, bóc lột trong cả nước.
Tháng 7.1930, đồng chí Trần Phú được bổ sung vào Ban Chấp hành Trung ương lâm thời và được phân công cùng Ban Thường vụ chuẩn bị cho kỳ họp thứ nhất của Ban chấp hành Trung ương Đảng.
Tại Hội nghị lần thứ nhất Trung ương Đảng họp tại Hương Cảng từ ngày 13 - 31.10.1930, đồng chí Trần Phú được bầu làm Tổng Bí thư của Đảng. Hội nghị nhất trí việc hợp nhất các tổ chức đoàn thể quần chúng, thông qua điều lệ tóm tắt của Công hội, Nông hội, Đoàn thanh niên Cộng sản, Hội phụ nữ, Hội cứu tế đỏ, Hội phản đế (tức Mặt trận dân tộc thống nhất phản đế).
Hội nghị quyết định kế hoạch thống nhất các cơ sở Đảng trong cả nước, lập Ban chấp hành Trung ương lâm thời của Đảng gồm 7 ủy viên: Trịnh Đình Cửu, Trần Văn Lan, Nguyễn Văn Hới, Nguyễn Phong Sắc, Hạ Bá Cang (tức Hoàng Quốc Việt), Phạm Hữu Lầu, Lưu Lập Đạo do Trình Đình Cửu đứng đầu.
Hội nghị thông qua luận cương chính trị, nghị quyết “Về tình hình hiện tại ở Đông Dương và nhiệm vụ cần kíp của Đảng”, các nghị quyết về công nhân vận động, về nông dân vận động, về cộng sản thanh niên vận động, về phụ nữ vận động. Về vấn đề cứu tế, về điều lệ của Đảng Cộng sản Đông Dương và điều lệ của các tổ chức quần chúng.
Hội nghị xác định nhiệm vụ trước mắt của Đảng là phải mở rộng phong trào đấu tranh của quần chúng.
Nối tiếp hội nghị thành lập Đảng (3.2.1930). Hội nghị Ban Chấp hành Trung ương Đảng tháng 10.1930 đã giải quyết nhiều vấn đề quan trọng về đường lối chính trị, về tổ chức... của Đảng, những vấn đề có ý nghĩa quyết định chiều hướng phát triển của cách mạng nước ta, đặc biệt là thông qua bản luận cương chính trị của Đảng, đã xác định những vấn đề thuộc về chiến lược cách mạng.
Song, bản Luận cương cũng đã bộc lộ nhược điểm mang tính “Tả” khuynh, giáo điều. Trải qua quá trình đấu tranh cách mạng, những nhược điểm trên được các Hội nghị Ban Chấp hành Trung ương Đảng các khóa tiếp theo dần dần khắc phục.