Direktur Pertama Departemen Pertanian adalah Dr. Melchior Treub. Pada masa penjajahan Belanda urusan pertanian ditangani oleh Departement van Landbouw (1905), Nijverheid en Handel (1911) dan Departement van Ekonomische Zaken (1934).

Sedangkan pada masa pendudukan Jepang, Gunseikanbu Sangyobu yang berperan dalam menangani urusan pertanian.

Pasca kemerdekaan Indonesia, tapatnya dua hari setelah proklamasi dibacakan, pada tanggal 19 Agustus 1945 dibentuk beberapa Kabinet Pemerintahan dan salah satunya Kementerian Kemakmuran sebagai sektor yang mewadahi urusan pertanian Indonesia dengan Ir. R. P. Surachman Tjokroadisurjo sebagai Menteri Kemakmuran pertama.

Dikarenakan situasi Indonesia pada saat itu masih kacau oleh kedatangan tentara Belanda, Kementerian Kemakmuran mendirikan cabang di Magelang yang dipimpin oleh R. M. Reksohadiprojo. Pada bulan Juli 1947, kantor dipindahkan ke Borobudur kemudian beralih ke Yogyakarta.

Dengan adanya Peraturan Presiden Nomor 47 Tahun 2009 tentang Pembentukan dan Organisasi Kementerian Negara, maka Departemen Pertanian berubah menjadi Kementerian Pertanian.