Los primeros testimonios conocidos sobre la presencia humana en el termino municipal de Alcoy, se remontan al paleolítico medio, hace unos 40.000 años. Los cazadores neandertales se instalaron en cuevas y abrigos de la zona. El yacimiento de El Salt es uno de los mejores documentados, gracias a los trabajos arqueológicos de las últimas décadas. Los datos obtenidos a partir del estudio de los instrumentos tallados de sílex, de los restos de fauna (ciervos, cabras, caballos) y de otros restos que evidencian la presencia humana, sugieren que éste fue un campamento temporal revisitado por estos grupos durante miles de años.

Al final de las glaciaciones cuaternarias, que en las regiones mediterráneas no tuvo el rigor de otras latitudes más septentrionales, coincidente con el período epipaleolítico comienza la introducción de la agricultura primitiva. En el área mediterránea se reconocen dos grandes tecnocomplejos culturales, el microlaminar y el complejo geométrico presente en sus momentos finales en el abrigo de la Falguera.

En las proximidades de la Sarga existen unos abrigos con pinturas rupestres prehistóricas en los que se observan escenas de caza, recolección, además de motivos figurativos del llamado Arte Levantino (10.000-6.500 años antes del presente) y esquemáticos, del conocido con el nombre de Arte Esquemático y su variante local Arte Macroesquemático que completan la secuencia pictórica postpaleolítica del mediterráneo peninsular (10.000-1.500 a. C.). Otros restos de época Neolítica y de la Edad de los Metales, atestiguan la ocupación prehistórica del término municipal.

Hacia el 3000-2500 a. C. se desarrolla el período eneolítico. En este momento, las cuevas dejan de ser los lugares de ocupación principal para dar paso a la generalización del hábitat en las llanuras. Las cuevas presentan ocupaciones más breves y son utilizadas en muchos casos como corrales y otras como lugares de enterramiento colectivo durante el tercer milenio. Entre estos destacan las de Les llometes y la cueva de la pastora.

Respecto a la ocupación del territorio, se establecen poblados fortificados en las cimas de las montañas, como: la Mola alta de Serelles, el Más del Corral, el Más de Menente, y el Puig, que desarrollaron economías cerealistas evidenciadas por la abundancia de dientes de sílex y molinos de mano.

En los inicios del primer milenio, durante el perído de bronce final, llegaron a estas tierras diversas influencias foráneas, como los campos de urnas en primer lugar y las culturas mediterráneas después, que produjeron transformaciones en el sustrato indígena, como la incineración de cadáveres, la aparición del hierro, el torno cerámico y la diversificación de la población que daría lugar al desarrollo de la cultura ibérica. La cultura ibérica es el resultado del desarrollo social de las comunidades del bronce final, sobre las cuales actúan otras influéncias de culturas mediterráneas: fenícias, y griegas que llegaron a estas comarcas desde los enclaves comerciales de la costa próxima. Como resultado de estos avances, se formaron los diferentes pueblos que constituyeron la cultura ibérica, desarrollada entre los siglos VI-I a. C.

En este ámbito regional, los poblados ibéricos constituyeron la antigua región de la Contestania, dentro de las actuales comarcas de la Hoya de Alcoy y el Condado de Cocentaina. Los valiosos testimonios de la arqueología ibérica que se conservan en el Museo arqueológico de Alcoy, prueban su importancia. Los ibéros se establecieron principalmente en poblados fortificados de altura, dominando el paisaje a su alrededor que principalmente eran tierras de cultivo. Entre estos poblados hay que mencionar: el Puig y la Serreta.

Durante la época romana, estas comarcas fueron un espacio rutal de la periferia de las principales ciudades, que se situaban en la costa, como: Dianium (Denia) o Lucentum (Alicante), o próximas a las vías de comunicación principales, como: Saetabis (Játiva). Este territorio se caracterizó por algunos asentamientos de carácter rutal, las denominadas villae, que se desarrollaron principalmente entre los siglos II y IV d. C. Entre estas villas destacala localizada en l’Horta Major de la que se conoce su necrópolis. En este cementerio aparecieron inhumaciones en tegulae en las cuales, junto al cuerpo enterrado hay depositados cerámica y otros objetos de mayor valor como ornamentos personales o un delicado vaso de vidrio. Prueba de la percepción de estas comarcas como espacio rural y poco colonizado por los romanos, pueden ser las representaciones de genios del bosque como l’aplic de bronze de Silenus. La presencia de restos de la romanización, aunque escasos, fueron hallados en pequeños poblados denominados alquerías, cuyos topónimos persisten en la actualidad (Uixola, Benisaidó, Polop, Barxell, etc.), los cuales dependían -entre los siglos X y XIII- de la fortificación en el Castellar.

El nacimiento del núcleo urbano cristiano se remonta al año 1256. Nace con la construcción de un castillo (Alcázar) situado en el enclave estratégico del nacimiento del río Serpis, en la confluencia de los riachuelos del Benisaidó y del Molinar, zona de la ciudad conocida actualmente como Algezares.

Fue fruto del afán de colonizar y asegurar la frontera meridional del Reino de Valencia, después de la Reconquista cristiana llevada a término por Jaime I de Aragón. Inicialmente, en 1238, Jaime I somete pacíficamente, mediante tratados, los territorios árabes de Valencia, su huerta y los de «más allá del Júcar» (mès en llá del Xúquer), entre los que estaban las tierras de los Valles de Alcoy y los Valles de Alcalá, Zeta y Travadell.

Sin embargo, no todos los señores árabes estaban de acuerdo con este sometimiento y hacia 1248-1258 se inicia una primera revuelta de Al-Azraq, señor de «la Vall d’Alcalà», contra la dominación de Jaime I. Hay indicios de una primera derrota de este caudillo frente a las huestes cristianas en la batalla de «Penya Cadiella», probablemente en la zona de la Sierra de Benicadell, en la actual divisoria de las Provincias de Alicante y Valencia, a unos 20 km de Alcoy. Puede que la destrucción de «El Castellar», castillo o fortaleza árabe cuyos deteriorados restos se encuentran en el límite oeste de la ciudad de Alcoy se produjese también en estas fechas.

A consecuencia de estas primeras revueltas, el Rey Jaime I manda construir una serie de castillos cristianos en la entonces línea fronteriza sur de su Reyno de Valencia, situados en enclaves estratégicos, que dieron lugar a poblaciones nuevas, en las que estaban prohibidas «las morerías»: Alcoy, Sax…

Las últimas revueltas del caudillo árabe Al-Azraq, en el 1276, fueron finalmente sometidas (muriendo el propio Al-Azraq cuando se encontraba sitiando Alcoy) y determinaron el asentamiento definitivo del poder cristiano sobre la actual provincia de Alicante.

En 1291 el rey Jaime II de Aragón hizo donación de la villa al almirante Roger de Lauria, no volviendo la villa al poder de los reyes hasta 1430. En este año, a consecuencia de la sublevación del entonces señor de Alcoy, Federico de Aragón, Conde de Luna, la villa pasó a poder real, y desde 1447 el rey Alfonso el Magnánimo le confirmó el privilegio de tener representación en las Cortes valencianas.

Durante la Guerra de Sucesión (1705-1707) los alcoyanos defendieron la causa del Archiduque Carlos, por lo cual la villa estuvo sitiada y padeció ataques, la abolición de privilegios locales, multas, etc., que menguaron su población y riqueza. Años más tarde el propio rey Felipe V le concedió la supresión de los gravámenes y concedió privilegios a la Real Fábrica de Paños de Alcoy.

La ciudad protagonizó un importante capítulo de su historia durante la Revolución Cantonal en 1873. El alcalde republicano, Agustí Albors, apodado Pelletes, ordenó abrir fuego sobre los obreros fabriles que se concentraban bajo el ayuntamiento durante una huelga. Éstos, encolerizados, asaltaron el edificio, matando al alcalde y mutilando su cadáver. Alcoy se declaró independiente y fue gobernada por un Comité de Salud Pública entre el 9 y el 13 de julio, hasta la llegada de las tropas federales. Este episodio es conocido como Revolución del petróleo (Revolució del Petroli).

Durante la Guerra Civil Española la ciudad se convirtió en una plaza fuerte del anarcosindicalismo, siendo sede de la AIT.