Sudirman dipilih sebagai Komandan Resimen, lalu Kepala Staf Umum TKR, Letnan Jenderal Urip Sumoharjo kemudian mengangkat Sudirman sebagai Komandan Divisi V/Banyumas dengan pangkat Kolonel.
Pada November 1945, ketika suasana semakin genting, para komandan TKR melakukan rapat di Yogyakarta. Sasat itu TKR belum memiliki panglimanya. Maka ditunjuklah Sudirman sebagai panglima TKR.
Namun pemerintah belum memberikan persetujuan.
Hingga Sudirman diharuskan berangkat ke front Ambarawa menghadapi pasukan sekutu setelah Letnan Kolonel Isdiman, Kepala Staf Sivisi V gugur dalam pertempuran itu.
Pada 12 Desember 1945 pukul 04.30 pagi, Sudirman memimpin serangan serentak terhadap sekutu. Pertempuran berlangsung sampai 15 Desember. Pasukan sekutu di Ambarawa yang diserang dari segala penjuru akhirnya dapat dipukul mundur ke Semarang.
Atas prestasinya, pemerintah Indonesia akhirnya memberikan persetujuan atas pengangkatan Sudirman sebagai Panglima TKR.
Bersama Urip, pensiunan Mayor KNIL, Sudirman kemudian mulai menata organisasi tantara yang masih semrawut.
Pada 1 Januari 1946, Tentara Keamanan Rakyat berganti nama menjadi Tentara Keselamatan Rakyat. Kemudian diubah lagi pada 24 Januari menjadi Tentara Republik Indonesia.
Pada Mei 1946, Sudirman terpilih lagi menjadi Panglima TRI. Pada 3 Juni 1947, presiden mengesahkan berdirinya Tentara Nasional Indonesia yang merupakan gabungan dari TRI dan badan-badan perjuangan rakyat lainnya.
Pada 21 Juli 1947, Belanda melancarkan agresi militer. Dewan Keamanan PBB ikut campur dalam masalah itu, dibentuklah Komisi Tiga Negara. Untuk menyelesaikan masalah tersebut lahirlah Perjanjian Renville yang ditandatangani pada 17 Januari 1948.
Kecewa dengan hasil perjanjian, Urip mengundurkan diri sebagai Kepala Staf Angkatan Perang.
Pada 1948, posisi Sudirman hampir dijatuhkan oleh golongan kiri di bawah kabinet Amir Syarifuddin karena tidak suka dengan peran yang terlalu besar.
Namun kabinet Amir Syarifudin kemudian jatuh karena beberapa partai besar tidak setuju dengan kebijakannya menerima perjanjian Renville.
Kemudian kabinet baru di bawah Mohammad Hatta dibentuk, hal ini membuat posisi Sudirman sebagai Panglima Angkatan Perang kembali aman.
Sudirman kembali diuji dengan penyakit paru-paru yang ia derita. Satu paru-parunya ternyata tidak dapat berfungsi lagi dan harus diistirahatkan. Saat itu juga, PKI melakukan pemberontakan di Madiun.
Hubungan Indonesia dan Belanda juga semakin buruk. Perjanjian demi perjanjian yang merupakan lajutan Perjanjian Renville menemui jalan buntu.
Karena Belanda diprediksi akan melancarkan agresi militer keduanya, Sudirman diperintahkan oleh beberapa perwira Angkatan Perang untuk menyingkir ke luar kota demi kesehatannya.
Namun Sudirman menolak. Ia bahkan mengumumkan untuk memimpin kembali Angkatan Perang pada 18 Desember 1948. Dan seperti yang sudah diprediksi, pada 19 Desember 1948 Belanda melancarkan agresi militer yang kedua kalinya.
Pasukan Belanda diterjunkan di Lapangan Terbang Maguwoharjo, Yogyakarta. Mereka kemudian bergerak menuju Kota Yogyakarta.
Ia pun datang menemui Sukarno di Istana untuk meminta instruksi. Sukarno meminta kepada Sudirman supaya ia tetap di dalam kota mengingat kondisinya yang masih sakit.