Selepas lulus dari Akademi Militer pada 1974, Sjafrie bersama Presiden Prabowo juga bersama-sama masuk Korps Baret Merah Komando Pasukan Sandi Yudha atau Kopassus. Keduanya bahkan juga bersama-sama pernah bertugas dalam operasi militer penting, salah satunya di Timor-Timur
Baca Juga: USU Borong Empat Penghargaan di Anugerah Humas Indonesia 2024
Sjafrie kemudian mengisi jabatan sebagai Asisten Teritorial (Aster) Kepala Staf Umum (Kasum) TNI, Staf Ahli (Sahli) Panglima TNI, Koordinator Staf Ahli (Koorsahli) Panglima TNI, Kepala Pusat Penerangan (Kapuspen) TNI (2002), dan Sekretaris Jenderal (Sekjen) Departemen Pertahanan (2005–2010). Departemen Pertahanan (Dephan) sejak 6 November 2008 berganti nama menjadi Kementerian Pertahanan (Kemenhan) RI.
Selepas pensiun sebagai prajurit pada 2010, Sjafrie langsung dipercaya membantu pemerintahan, antara lain selama periode kedua pemerintahan Presiden Ke-6 Susilo Bambang Yudhoyono (SBY) sebagai Wakil Menteri Pertahanan (2010–2014), kemudian sebagai Asisten Menteri Pertahanan bidang Manajemen Pertahanan (2019–2024).
Hingga pada akhirnya, Sjafrie dipercaya oleh Presiden Prabowo untuk melanjutkan tugasnya sebagai Menteri Pertahanan Kabinet Merah Putih dan juga telah secara resmi dilantik pada Senin, 21 Oktober 2024.
