5/1970 - 10/1973

Giao liên, Tổ trưởng giao liên, Bí thư Chi đoàn, cán bộ hoạt động nội thành trong phong trào học sinh, sinh viên thuộc Thành đoàn Sài Gòn, Gia Định. Phụ trách xây dựng cơ sở bí mật tại Trường Tân Văn Sài Gòn (Thành đoàn Sài Gòn Gia Định). Vào căn cứ học lớp Thanh vận, Bí thư Đoàn trường Lý Tự Trọng, khóa I.

11/1973 - 5/1974

Cán bộ Bảo vệ cần vụ thuộc tổ bảo vệ đồng chí Nguyễn Văn Chính (tức Chính Cần) Phó Ban Tổ chức Trung ương cục miền Nam, sau này là Phó Chủ tịch Hội đồng Bộ trưởng.

6/1974 - 6/1975

Ra Bắc học văn hóa và nghiệp vụ tại Trường E1171-Bộ Công an.

7/1975 - 5/1977

Cán bộ bảo vệ chính trị Sở Công an Thành phố Hồ Chí Minh, học văn hóa tại trường Marie-Curie thành phố Hồ Chí Minh, Bí thư đoàn trường.

6/1977 - 9/1981

Sinh viên khoa Thủy lợi Tổng hợp Đại học Bách khoa Thành phố Hồ Chí Minh là Đảng ủy viên khoa Thủy lợi, Đảng ủy viên trường Đại học Bách khoa thành phố Hồ Chí Minh.

10/1981 - 7/1985

Cán bộ, Đội phó, Đội trưởng Bảo vệ An ninh Kinh tế Công an thành phố Hồ Chí Minh.

8/1985 - 6/1988

Phó trưởng phòng An ninh Kinh tế Công an thành phố Hồ Chí Minh (PA17), Đảng ủy viên Đảng ủy Công an thành phố Hồ Chí Minh.

7/1988 - 10/1991

Phó Chánh Văn phòng Công an thành phố Hồ Chí Minh, Thư ký đồng chí Lâm Văn Thê, Ủy viên Trung ương Đảng, Thứ trưởng Bộ Công an kiêm Giám đốc Công an thành phố Hồ Chí Minh.

11/1991 - 3/1997

Phó Cục trưởng Cục Bảo vệ An ninh Văn hóa tư tưởng Tổng cục I, Bộ Công an.

4/1997 - 3/2001

Ủy viên Thường vụ đảng ủy, Phó Giám đốc Công an thành phố Hồ Chí Minh, Đại biểu Quốc hội Khóa X.

4/2001 - 8/2004

Thành ủy viên, Bí thư Ban Cán sự Đảng, Viện trưởng Viện Kiểm sát nhân dân thành phố Hồ Chí Minh, Đại biểu Quốc hội Khóa XI.

9/2004 - 4/2006

Ủy viên Thường vụ đảng ủy Tổng cục XDLL Bộ Công an, Thiếu tướng, Phó Tổng cục trưởng Tổng cục xây dựng lực lượng Công an nhân dân, Bộ Công an, Đại biểu Quốc hội Khóa XI.

5/2006 - 7/2007

Ủy viên Trung ương Đảng, Ủy viên Thường vụ đảng ủy Công an Trung ương, Trung tướng, Thứ trưởng Bộ Công an, Đại biểu Quốc hội Khóa XI.

8/2007 – 12/2010

Ủy viên Trung ương đảng, Bí thư Ban Cán sự đảng, Chánh án Tòa án nhân dân tối cao, Đại biểu Quốc hội Khóa XII.

01/2011 - 12/2015

Bí thư Trung ương đảng, Bí thư Ban Cán sự đảng, Chánh án Tòa án nhân dân tối cao, Đại biểu Quốc hội khóa XIII.

01/2016 - 8/4/2016

Ủy viên Bộ Chính trị (khóa XII), Bí thư Ban Cán sự đảng, Chánh án Tòa án nhân dân tối cao, Đại biểu Quốc hội khóa XIII.

09/4/2016 – 1/2021

Ủy viên Bộ Chính trị (khóa XII), Phó Bí thư Ban Cán sự đảng Chính phủ, Phó Thủ tướng Chính phủ, Đại biểu Quốc hội Khóa XIII, XIV.

Từ 1/2021

Phó Bí thư Ban Cán sự đảng Chính phủ, Phó Thủ tướng Chính phủ, Đại biểu Quốc hội Khóa XIV.