Ông sinh tại làng Thường Thạnh, quận Cái Răng, tỉnh Cần Thơ.

Năm 1926, Hồ Hữu Tường sang Pháp học tại trường Đại học Marseille và nạp luận án thi Cao học Toán tại Đại học Lyon. Tại Pháp ông kết bạn và tham gia hoạt động chính trị với những nhà ái quốc lưu vong như Nguyễn Thế Truyền, Phan Văn Trường, Nguyễn Văn Tạo, Tạ Thu Thâu, Phan Văn Hùm, Phan Văn Chánh v.v. và gia nhập Đệ Tứ Quốc tế.

Năm 1930, Hồ Hữu Tường được giao làm chủ nhiệm tờ báo bí mật tên là Tiền quân. Thành viên của ban biên tập là những chính khách sau này như Tạ Thu Thâu, Hồ Văn Ngà, Phan Văn Chánh, Huỳnh Văn Phương, Lê Bá Cang... Báo chưa phát hành số đầu thì ban biên tập bị bắt vì tổ chức cuộc biểu tình ngày 22 tháng 5 năm 1930 trước điện Élysée (dinh Tổng thống Pháp) để xin giảm án cho các liệt sĩ trong cuộc Khởi nghĩa Yên Bái bị kết tội tử hình. Cả nhóm bị trục xuất về Việt Nam, ngoại trừ Phan Văn Hùm và Hồ Hữu Tường trốn thoát sang Bỉ. Sau đó ông về nước.