Diklatprov berdiri pada tanggal 2 Juni 1968 pada masa kepemimpinan Gubernur Ali Sadikin. Beliau membangun konsep kompleks Diklatprov yang lengkap dengan Graha Pemuda, namun dalam perjalanannya graha ini dikelola oleh Dinas Pariwisata. Ketika itu Diklatprov DKI Jakarta merupakan lembaga non struktural dengan nama Pusat Pendidikan dan Latihan Personil (Pusdiklatnil) dan ditetapkan dengan Keputusan Gubernur DKI Jakarta Nomor Ab.12/1/5/1968.

Kemudian sejalan dengan perkembangannya organisasi dan tata kerja Pusdiklatnil disempurnakan dengan Keputusan Gubernur KDKI Jakarta Nomor 4473/a/5/1976 tanggal 28 Juni 1976, dan pada tahun 1980 ditingkatkan dengan Perda Nomor 62 Tahun 1980 tanggal 13 Mei 1980 dengan nama Pusat Pendidikan dan Latihan Pegawai (Pusdiklat Pegawai), lembaga ini masih merupakan lembaga fungsional dan belum merupakan lembaga struktural dalam Tata Pemerintahan DKI Jakarta.

Dengan semakin meningkatnya peran pendidikan dan pelatihan kemudian dikeluarkan Keputusan Menteri Dalam Negeri Nomor 64 Tahun 1984 tentang Organisasi dan Tata Kerja Pendidikan dan Latihan Provinsi sehingga Diklatprov DKI Jakarta dikukuhkan menjadi lembaga instansi vertikal yang pembinaannya dilakukan oleh Badan Diklat Depdagri.

Selanjutnya dengan Keputusan Presiden Nomor 9 Tahun 1985 menempatkan Pendidikan dan Latihan Provinsi sebagai lembaga struktural dalam organisasi Pemerintah DKI Jakarta sejak tanggal 1 April 1985.

Kemudian dalam rangka mewujudkan Keputusan Menteri Dalam Negeri Nomor 19 Tahun 1992 dan Instruksi Menteri Dalam Negeri Nomor 18 Tahun 1992, satuan organisasi diklat dikukuhkan dengan Perda Nomor 7 Tahun 1993 dengan tetap memakai nama Diklatprov DKI Jakarta. Selanjutnya Menteri Dalam Negeri dengan keputusan Nomor 40 Tahun 1994 telah mengesahkan Perda Nomor 7 Tahun 1993 tentang Organisasi dan Tata Kerja Pendidikan dan Latihan Provinsi DKI Jakarta.

Pada sekitar Juni 1994 pada masa kepemimpinan Gubernur Wiyogo dibangun gedung Blok C yang berjumlah lima lantai untuk mengantisipasi pelaksanaan diklat yang semakin padat.

14 Oktober 1994 UPT Kebahasaan dan Luar Negeri didirikan dengan Keputusan Gubernur DKI Jakarta Nomor 1367 Tahun 1994. 21 Nopember 1995 UPT Komputer didirikan dengan Keputusan Gubernur KDKI Jakarta Nomor 1592 Tahun 1995.

Kemudian sejalan dengan restrukturisasi organisasi Pemerintah Provinsi DKI Jakarta sebagai tindak lanjut pelaksanaan otonomi daerah berdasarkan Undang-Undang Nomor 22 Tahun 1999, maka struktur organisasi Pemerintah Provinsi DKI Jakarta mengalami perubahan sebagaimana ditetapkan oleh Peraturan Daerah Provinsi Daerah Khusus Ibukota Jakarta Nomor 3 Tahun 2001 tentang Bentuk Susunan Organisasi dan Tata Kerja Perangkat Daerah dan Sekretariat Dewan Perwakilan Rakyat Daerah Provinsi Daerah Khusus Ibukota Jakarta dimana Diklatprov DKI Jakarta berubah menjadi Kantor Pendidikan dan Pelatihan Provinsi DKI Jakarta yang berlaku efektif per 1 Januari 2002.

Selanjutnya sesuai dengan Peraturan Daerah Provinsi Daerah Khusus Ibukota Jakarta Nomor 10 Tahun 2008 tentang organisasi perangkat daerah dimana Kantor Pendidikan dan Pelatihan Provinsi DKI Jakarta berubah menjadi Badan Pendidikan dan Pelatihan Provinsi DKI Jakarta yang berlaku efektif 1 Januari 2009.