Bağdat’ta doğmuştur. Babası mülkiye kaymakamların­dan ve Bağdat’ın eski ve bilinen ailelerinden biri olan Alusi­zadelere mensup Arif Hikmet Bey annesi ise yine Bağdat’ın ileri gelenlerinden Kahyazadeler’in kızı Sara Hanım’dır. Meşhur tefsir alimi Mahmud el Alusi Ahmet Haşim’in ba­basının dedesidir. Babasının Arabistan vilâyetlerindeki memuriyetleri sebebiyle düzensiz bir ilkokul tahsili gör­dü. Aynı sebepten dil olarak da sadece Arapçayı öğrendi. Annesinin ölümü üzerine 12 yaşında babasıyla birlikte İs­tanbul’a geldi. 1897’de Galatasaray Sultanîsi’ne yatılı ola­rak verildi. Hâşim’in sanat ve edebiyata ilgisi Galatasaray Sultanîsi’nde başlar. Bilinen ilk manzumesi “Leyâl-i Aş­kım” 1901’de “Mecmua-i Edebiyye”de yayınlandı. Bu dö­nemde Muallim Naci, Abdülhak Hâmid, Tevfik Fikret ve Cenab Şahabeddin’in tesiri altında kaldı. Son sınıfta iken Fransız şiirini ve sembolistleri tanıdı. Bundan sonra ken­di şahsiyetini gösterdi ve ilk şiirlerini kitaplarına almadı.