1974-cü ildə isə «Bakelektromaş» istehsalat birliyinin müdiri vəzifəsinə keçib. 1977-ci ildə Bakı şəhəri Nərimanov Rayon Partiya Komitəsinin ikinci katibi, 1979-cu ildə respublikanın yerli sənaye naziri, 1982-ci ildə Azərbaycan SSR-in Dövlət Plan Komitəsinin sədri və Nazirlər Şurasının sədr müavini vəzifələrini tutub.

1988-ci ildən Nazirlər Sovetinin sədri olub. 1990-cı ilin yanvar ayında Azərbaycan Kommunist Partiyası Mərkəzi Komitəsinin birinci katibi, daha sonra – 1990-cı ilin mayında Azərbaycan SSR-in Ali Soveti tərəfindən Azərbaycanın prezidenti seçilib. 1990-cı ilin iyulundan 1991-ci ilin avqustuna kimi Sovet İttifaqı Kommunist Partiyası MK-nin və Sov.İKP MK-nin Siyasi Bürosunun üzvü olub.

1991-ci il sentyabrın 8-də ümumi seçkilərdə Azərbaycanın prezidenti seçilib, 1992-ci il martın 6-da istefa verib.

Azərbaycan Sosial Demokrat Partiyasının 2012-ci il iyunun 30-da Bakıda keçirilən qurultayına təbrik məktubu göndərən Ayaz Mütəllibov partiyanın həmsədri vəzifəsindən və siyasətdən getdiyini bəyan edib.