本校位於南橫公路霧鹿村最高處，為霧鹿峽谷和群山包圍。

霧鹿村居民主要為布農族，學生也多為布農族。其來源源自南投玉山的布農族南遷，經三叉山嘉明湖與鄒族衝突後，分成三支遷徙。其中一支往台東方向移動，經向陽，利稻，霧鹿等地。即是本村的先民。其後布農族繼續往海端，延平方向發展。

依據台東縣史記載，霧鹿國小前身有二，分別為昭和4年(1929年)6月5日創立的霧鹿霧鹿教育所，以及昭和5年5月25日的下馬教育所(於昭和17年前廢止)。光復後改名"霧鹿國民學校"，同年又配合九年國民教育政策改名"霧鹿國民小學"。

民國76年8月因學生銳減，降為利稻國小霧鹿分校；77年8月再裁為分班。82年8月裁下馬分班併入霧鹿分班，霧鹿再次變為分校。87年8月後因學生逐漸穩定，霧鹿分校獨立成為霧鹿國小。