Secara historis, dahulu sebagian besar penduduk Gampong Gue Gajah berasal dari wilayah Gue Gajah dan Gue Syrek. Penduduk Gampong Gue Gajah yang secara adat istiadat memiliki satu kesatuan dan terangkum di dalam Gampong Gue Gajah yang terdiri dari 2 (dua) dusun. Dahulu nama Gue Gajah berasal dari kata Geu eu Gajah (Melihat gajah di paya) dimana tempat berdiamnya/ istirahatnya Gajah-Gajah sehingga sampai saat ini masih ada Paya Gajah dan atau pameo yang berkembang di masyarakat.Dengan kesepakatan musyawarah masyarakat pada waktu itu disepakati memberi nama “Gue Gajah”. Gue Syrek dan Gue Gajah. 2 dusun 1 meunasah. Kemudian seiring dengan perkembangan zaman dan jumlah penduduk yang terus bertambah, saat ini berkembang menjadi 5 dusun dan 2 komplek sebagaimana saat ini.