Исторически было центром общности Вабуа – Фяппи Поселение основано в XVI веке н. э. Чардом, предком ингушских тейпов Мамиловых, Яндиевых, Буражевых и Алдагановых.

Известный ингушский этнограф и краевед Чах Ахриев так описывает возникновение Эрзи:

Кист — сын одного знаменитого сирийского владельца из дома Камен (Комнен), во время первых крестовых походов перебрался из Сирии в Абхазию, а отсюда, через некоторое время, перешел в Грузию. Но Грузия в то время была в самом печальном положении от постоянных нападений арабов и турок, так что Кист принужден был убежать отсюда в неприступные Кавказские горы и поселился в одном из ущелий Северного Кавказа, недалеко от верховьев Терека… Сын Киста Чард имел сына Чарда же. Последний построил в Арзи (Эрзи) 16 „осадных“ башен и замков, которые существуют и в настоящее время.

Село возглавляло территориальную единицу Вабуа – Фяппи.