Sejarah pembukaan Jelebu selalu dikaitkan dengan kedatangan orang Minangkabau. Pada asalnya Jelebu didiami oleh kaum orang asli keturunan Temuan dari suku Biduanda. Kisah bermula apabila Batin Terjali anak kepada Maharaja Alif yang memerintah kerajaan Pagar Ruyung Minangkabau, pergi mengembara untuk mencari pengalaman dan meluaskan lagi pemerintahan ayah baginda. Setelah jauh mengembara Batin Terjali dan pengikut-pengikutnya sampai di Bukit Kundik di Jelebu. Kedatangan mereka disambut baik oleh orang-orang asli di kawasan tersebut.
Semasa di Jelebu, Isteri Batin Terjali iaitu Puteri Embong Sari melahirkan seorang anak lelaki dan diberi nama Datok Niko Menteri Mangku Alam Raja Sehari. Sebelum meninggalkan Jelebu untuk meneruskan pengembarannya, Batin Terjali telah mewariskan putera baginda kepada ketua suku orang asli supaya menjaga puteranya dan apabila besar kelak hendaklah dijadikan penghulu Jelebu. Ketua orang asli itu bersetuju dan berjanji akan patuh dengan apa yang telah diperintahkan.
Ketua orang asli telah menepati janjinya dan Datok Niko Menteri Shah Maku Alam Raja Sehari dilantik menjadi penghulu Jelebu. Maka wujudlah pemerintahan putera Batin Terjali dan hubungan antara orang Minangkabau dan orang asli pun terjalin dan sejak itulah orang Minangkabau mula berhijrah ke Jelebu. Dalam senarai daftar nama penghulu di Jelebu, orang pertama dicatat namanya sebagai penghulu Jelebu ialah Datok Gombak, kemudian Datok Metunggang dan diikuti oleh Datok Moyang Salleh.
Jelebu juga terkenal sebagai kawasan lindungan hujan kerana letaknya di dataran tinggi dan jarang menerima hujan berbanding kawasan lain di Negeri Sembilan. Kerana itu tanahnya subur dan terkenal dengan pengeluaran buah-buah tempatan dan penanaman tumbuhan di Jelebu adalah sangat subur.