Bistam'a bağlı Harakan'da dünyaya geldi. Bâyezîd Bistâmî'nin hemşehrisi ve türbedârıdır. O'nun rûhâniyetinden feyz alarak "üveysî" tarîkla yetişmiştir. Adı Ali bin Ca'fer, künyesi Ebu'l-Hasan, nisbesi el-Harakanî'dir. Yakut el-Hamevi onun 425 hicri yılında 10 Muharrem Aşure gününde (1034 Aralık'ta) 73 yaşında iken vefat ettiğini bildirdiğine göre 352/963 yılında doğmuş olmalıdır ki, doğumu Bâyezid'in vefatından 91 yıl sonradır.

Ebu’l-Hasan Harakānî Hicrî 421-429 tarihleri arasında vukû bulan Kars muharebelerine bir takım akraba ve dervişleriyle katılmış ve bu savaşların birinde sağ bacağından ve sol pazusundan aldığı darbelerden açılan yaralar neticesinde Kars sınırında bulunan Yahniler Dağı mevkiinde şehid olmuştur.

Ebu'l-Kasım Kuşeyri, Ebu'l-Abbas Kassâb, Ebu Said el-Miheni gibi mutasavıflarla, Gazneli Sultan Mahmud gibi devlet ricaliyle İbn Sina gibi felsefe ve tıb otoriteleriyle çağdaş. Kuşeyri ile görüştüğünü Keşfu'l-mahcûb müellifi Hucviri'den öğreniyoruz. Hucviri, Kuşeyri'nin onun hakkında; "Harakan'a varınca Şeyh Ebu'l-Hasan'ın heybet ve haşmetinden fesahatım sona erdi, ifade gücüm kayboldu ve sanki dilim tutuldu. Neredeyse velayet makamından azledildiğimi sandım" dediğini nakleder.

Ebu'l-Abbas Kassâb onun hakkında: "Tasavvuf pazarında rihlet ziyaret Harakaniye lâyıktır" demektedir.