1956 yılında Adıyaman'dan Malatya'ya göç etmiş Kürt bir baba ile Erzurumlu Türk bir
annenin beşinci çocuğu olarak doğdu. Babası Sümerbank mensucat fabrikasında çalışan bir
işçiydi. İlkokulu Malatya'da okudu ve kendi hayatını anlattığı bir belgeselde müzikle altı yaşında babasının hediye ettiği bağlama ile tanıştığını söyler. Okuldan geri kalan zamanlarında plak ve kaset satan bir dükkanda çalışmaya başladı. Ailesinin geçim sıkıntısı çekmesi nedeniyle İstanbul Kocamustafapaşa'ya göç ettiler ve okulu bıraktı. İşportacılık ve çıraklık gibi çeşitli vasıfsız işlerde çalıştı. Bu dönemde küçük bir yerleşim yerinden, büyük bir şehre taşınmanın ve alışmanın sıkıntılarını yaşadı. Bu sıkıntılarını Aynalar isimli belgeselde şöyle dile getirdi:

Onlarla konuşmuyordum çünkü onlarla konuşamıyordum..Giyimleri başkaydı, konuşmaları başkaydı. Onlar gibi konuşmaya çalışıyordum. Mesela terziye gidip, onlar gibi pantolon diktirmeye filan başlamıştım. Terzinin yaptırdığı pantolonların üzerime uymadığını görüyordum. Onlara yakışıyordu bana yakışmıyordu. Bir kız vardı bizim okulda, herkesin bir aşkı vardır, çocukluk aşkı. Bir gün gittim dedim ki: "biraz seninle konuşak beş dakika, kaçıyorsun hep".. Bana dedi ki: Rica ederim. Öyle bir ağrıma gitti ki : Bende sana rica ederim dedim.. Ben o zaman anlamını bilmiyordum, yani onu bir küfür zanettim...

16 yaşında yasak afiş basmaktan hapse atıldı. Daha sonra birkaç arkadaşıyla birlikte Halk Birimleri Derneği'nin çalışmalarına katıldı. Bu çalışmaları sırasında çeşitli etkinliklerde bağlama çalmaya devam etti. 1 Mayıs 1977 yılında yaşanan olaylara tanık olur. Boğaziçi Üniversitesinde yapılan bir etkinlikte Ruhi Su ile tanışma fırsatı bulur, Mahsus Mahal isimli Ruhi Su türküsünü söyler. Halk Birimleri Derneği'nde Emine isminde bir kızla tanışıp nişanlanır. Daha sonra 1978 yılında Gelibolu'da askerlik yapar, bu arada orkestrada müzik çalışmalarına devam eder. Askerlik dönüşü Emine Kaya ile evlendi ve 1982 yılında kızları Çiğdem doğar

İlk profesyonel çalışmaları

İşsizlik ve parasızlık sebebiyle ekonomik zorluklar çeker. Bu sırada eşi kendisinden ayrılır. Bu ekonomik sorunlarından kurtulmak için kendi deyimiyle "sistemin tersine hareket" ederek hapse girmeye çalışır. Bunun için uzun uğraşlar sonucu çıkardığı Ağlama Bebeğim albümünü 1985 yılında yayımlar. İstanbul Şan Tiyatrosu'nda minik bir konser verir. Yayımlandığı yıl albüm toplatılır, fakat daha sonra sansürü kaldırılır. 1985'de ikinci albümü Acılara Tutunmak için birinci albümde olduğu gibi Değişim stüdyosuyla anlaşır. Stüdyonun sahibi, o sıralarda Metris Askeri Cezaevi'nde olan Selda Bağcan'ın kardeşidir. Cezaevinde tanıştığı Gülten Hayaloğlu ile Ahmet Kaya'nın tanışmasına aracılık eder. Albüm yayınlandıktan sonra evlenirler. Gülten Hayaloğlu hapishanede idam cezasına mahkum olan Nevzat Çelik'in Şafak Türküsü şiirini Ahmet Kaya'ya iletir. Bunun üzerine geniş kitlelerce tanınmasını sağlayan albüm, 1985 yılında yapılıp 1986'da piyasaya çıkan Şafak Türküsü olur. Bu albümde aranjör Oğuz Abadan'la çalışır ve hemen hemen tüm besteleri kendisi yapar. Aynı yıl An Gelir albümünü yayımlar. 1987 yılında kızı Melis doğar.

Yusuf Hayaloğlu ile tanışma

Gülten Hayaloğlu ile evlendikten sonra kardeşi Yusuf Hayaloğlu ve şiirleriyle tanışır. Sözlerinin çoğunluğunun Yusuf Hayaloğlu'na ait olduğu Yorgun Demokrat albümü isimli 1987 yılında yayımlanır. 1988 yılında sadece iki şarkının söz yazarlığını Hayaloğlu'nun yaptığı ve diğer sözlerin tanınmış şairlerin şiirlerinden oluşan Başkaldırıyorum 'ü yapılır. Ardından 1989 yılında sadece bağlama ve vokalin oluşturduğu konserlerinden bir derleme olan Resitaller-1'i yayımlanır. Aynı yıl Osman İşmen'in düzenlemesiyle, sözlerinin büyük çoğunluğunu Hayaloğlu'nun yazdığı İyimser Bir Gül'ü yapar. 1990 yılında Resitaller-1'in devamı niteliğinde olan Resitaller-2 albümü yayımlanır. Aynı yılın Ekim ayında çeşitli şairlerin şiirlerinden oluşan Sevgi Duvarı isimli albümünü çıkartır. Şarkılarım Dağlara albümü basılan 2.800.000 bandrolle rekor kırmıştır. Bu albümde yer alan Özgür Çağrı isimli şarkıda geçen Abin bir gün dağdan döner, sarılırsın yavrucağım gibi sözler nedeniyle albümü toplatılır, konser vermesi yasaklanır. 1990 yılında Tatar Ramazan ve 1992 yılında Tatar Ramazan Sürgünde filmlerinin müziğini yaptı. 1994 yılında prodüksiyonu'nu Gülten Kaya ve Yusuf Hayaloğlu'nun yaptığı, Kanal D'de yayımlanan Ahmet Abi'nin Vapuru programını yapar. Bu program sadece 13 hafta sürer. Bu programa Nihat Akgün'ün katılması ve JET-PA'nın sponsorluğunu yapması büyük eleştiriler alır.

Müzikal tarzı

Boğaziçi Üniversitesi'nde Ruhi Su ile tanışıp mahsus mahal isimli türküyü çaldığı zaman, Ruhi Su bağlamanın bu şekilde, at teper gibi çalınmayacağını söyler. Yıllar sonra Ahmet Kaya verdiği konserin birine "Bağlama Böyle de Çalınır" ismini verir. İlk dönem albümlerinde genel olarak bağlamaya ağrılık verdi. Pop, Türk Halk Müziği ve Arabesk kategorisine dahil edilemediği için müzikal türüne Devrimci Arabesk denilmektedir. Fakat kendisi müzik tarzının Devrimci Arabesk veya protest olarak tanımlanmasına karşı çıkar. Sözlerini kendisinin yazdığı bestelerle beraber, Attila İlhan, Can Yücel, Nevzat Çelik, Hasan Hüseyin Korkmazgil, Enver Gökçe, Ahmed Arif gibi tanınmış şairlerin şiirlerini de bestelemiştir. Genellikle şarkılarında toplumsal meseleler işlenir. Yirmi iki albümünden sadece bir tanesinde Kürtçe şarkı vardır.