Kipaji chake hakikupita bila kutambuliwa. Aliteuliwa kuwa Mkuu wa Mkoa wa Dodoma, nafasi aliyoitumikia kwa uadilifu mkubwa. Baadaye aliteuliwa kuwa Naibu Waziri wa Mawasiliano na Uchukuzi, na kisha akawa Waziri kamili wa wizara hiyo. Uongozi wake ulijulikana kwa msimamo thabiti dhidi ya rushwa, uzembe na matumizi mabaya ya mali ya umma. Alikuwa kiongozi aliyependwa sana na watendaji wa kawaida, kwani aliamini katika kufanya kazi pamoja na si kuongoza kwa amri. Hakuwa na tabia ya kuonyesha ukubwa wa madaraka, bali aliamini kuwa madaraka ni dhamana. Kutokana na uaminifu wake mkubwa kwa chama na taifa, Edward Sokoine aliteuliwa kuwa Waziri Mkuu wa Tanzania kwa mara ya kwanza mwaka 1977. Uteuzi wake ulikuja wakati ambao taifa lilikuwa linakabiliana na changamoto nyingi – mfumuko wa bei, ukosefu wa bidhaa muhimu, na hatimaye vita vya Kagera dhidi ya utawala wa kijeshi wa Idi Amin wa Uganda. Katika kipindi hiki kigumu, Sokoine alisimama kama nguzo ya uongozi madhubuti.