1960 yılında Kayseri'de doğan Orhan Yılmaz, 1984 yılında Gazi Üniversitesi Kimya Mühendisliği mezunu olmuştur. Aynı üniversiteden yüksek lisans ve doktora derecelerine sahip olan Yılmaz, kariyerine 1986 yılında Etibank'ın bor ve asit fabrikalarında mühendis olarak başlamıştır.Aynı şirkette sırasıyla şef mühendis, baş mühendis ve müessese müdürü olarak çalışmış, 2003 yılında genel müdür yardımcısı olarak atanmıştır. 2004 yılında Eti Maden Genel Müdürü ve Yönetim Kurulu Başkanı görevlerini üstlenmiş, bu görevleri 2015 yılına kadar sürdürmüş, 2015 -2017 yılları arasında Enerji ve Tabii Kaynaklar Bakanlığı Müşaviri olarak görev yapmıştır. Yılmaz, 2017 yılının Ocak ayından 2024 senesinin Ekim ayına kadar Zorlu Maden Grubu Başkanı olarak sorumluluk üstlenmiştir. 2024 yılı itibarıyla, Meta Nikel Kobalt A.Ş'de Yönetim Kurulu Üyesi görevine devam etmektedir.
Orhan Yılmaz, bekar ve üç çocuk babasıdır.