El 9 de Junio de 1994, un grupo de personas, en su mayoría devotas de la Virgen del Carmen se agrupan en una pre-Hermandad en la Parroquia de San Pío X del populoso barrio del Zapillo, en Almería Capital, encabezada por D. Francisco Díaz Álvarez comenzando así el germen de lo que años después será la Hermandad Sacramental de Nuestra Señora del Carmen , Nuestro Padre Jesús del Gran Poder, M.ª Santísima del Mayor Dolor y Traspaso , y San Juan Evangelista, lo que hace que nazca la Hermandad tal y como hoy la conocemos.
El 9 de Junio del 1995, se bendice la primera imagen de Ntra. Sra. Del Carmen por su Consiliario y párroco D. Andrés Anes Fernández, siendo obra del imaginero almeriense D. Juan Antonio Criado López. El 14 de Abril de 1996, se bendice la imagen de Ntro. Padre Jesús del Gran Poder (Imaginero D. José Antonio Navarro Arteaga), preside el acto el Vicario General de la Diócesis D. Francisco Alarcón Alarcón, actuando de padrinos La Hermandad de la Santa Cena.
El 16 de Julio de 1996 comienza a realizarse un pregón a la Ntra. Sra. Del Carmen que fue suprimido seis años después, para simplificar pues parecía que era para dos hermandades y no una porque el de pasión era para el Señor, y entonces se decidió dejar una que agrupara a toda la hermandad, y el de gloria se sustituyó por una exaltación celebrada el 15 de Julio durante la velá, que duró unos años, porque al realizarse al aire libre no prestaba atención y se optó por suprimirlo en 2010.
Las primeras Reglas de esta Hermandad fueron aprobadas el 24 de Octubre de 1996 por el Excmo. y Rvdo. Sr. Obispo de la diócesis de Almería Mons. Rosendo Álvarez Gastón, erigiéndose la hermandad cuyo párroco y consiliario fue D. Andrés Anes Fernández y Hermano Mayor D. Francisco Díaz Álvarez.