Отделение Математики и Механики было открыто во вновь образованной Академии наук Армянской ССР в 1944 году. Позднее отделение было преобразовано в Институт математики и механики Армянской Академии наук. Первым директором института стал математик Арташес Шахинян, известный своими исследованиями в области комплексного анализа.
Институт математики был выделен в отдельную организацию в 1971 году. Должность директора института занимали Мхитар Джрбашян (1971-1989, почетный директор в 1989-1994), академик Норайр Аракелян (1989-1991,1997-2006) академик Александр Талалян (1991-1997). Большое влияние на научно-исследовательскую работу Института оказали также академики Сергей Мергелян, Рафаэль Александрян, Рубен Амбарцумян и Анри Нерсесян.
В первые годы работы институт занимался в основном теорией функций. Со временем сфера исследований расширилась и в настоящее время включает дифференциальное и интегральное исчисление, функциональный анализ, теорию вероятностей и математическую статистику.
В настоящее время в Институте работает 25 постоянных исследователей, а также исследователи-совместители из Ереванского государственного университета.
Институт математики Национальной академии наук Армении.