Թանգարանը հիմնադրվել է 1968թ. հոկտեմբերի 19-ին՝ ի նշանավորումն Երևան քաղաքի 2750-րդ տարեդարձի։ Թանգարանը ստեղծվել է Երևան քաղաքի վարչական սահմաններում գտնվող երեք նշանավոր հնավայրերի՝ Արին բերդ, Կարմիր բլուր և Շենգավիթ։

Էրեբունի թանգարանի շենքը կրկնում է ուրարտական պալատական կառույցների հորինվածքը։