Koskenmäen kirjasto aloitti toimintansa opettajien hoitamana piirikirjastona Koskenmäen kansakoululla vuoden 1951 syksyllä.
1960-luvulla kirjasto liitettiin osaksi Nokian kauppalankirjastoa. Päätoimisen kirjastonhoitajan Koskenmäen sivukirjasto sai 1975.
Kirjasto pääsi muuttamaan koulun kellaritiloista päivänvaloon vuonna 1985, jolloin toimitiloiksi saatiin nk. entinen lääkäritalo vilkkaasti liikennöidyn Orelinkadun varrella. Varsinkin aikuisten lainaus ja tietokirjojen kysyntä kasvoivat.
Lamavuosina 1991-1992 Koskenmäen kirjasto joutui kamppailemaan olemassaolostaan. Kun se sitten sai jatkaa toimintaansa, siirryttiin syksyllä 1994 ATK-lainaukseen ja vähän myöhemmin Internet-aikaan.
Koskenmäen kirjaston toiminta-alueella sijaitsee nykyisin mm. kuusi päiväkotia, neljä alakoulua sekä yksi yläkoulu. Tämän vuoksi satutunnit, kirjastonkäytön opetus sekä lukemaan innostaminen ovat jo vuosikymmeniä kuuluneet Koskenmäen kirjaston tärkeimpiin työmuotoihin.
