Leidinys „Kauno gubernija“ nurodo, kad 1865 metais buvo įsteigta pradinė mokykla Eržvilke. Rusiškoji mokykla buvo vadinama liaudies mokykla, turėjo 3 skyrius. Mokykla veikė smuklininko Š. Mazinterio namuose. Mokslas truko trejus metus. Mokslo metai prasidėdavo lapkričio mėnesį ir tęsdavosi iki gegužės. Dėstomoji kalba – rusų.

1873 m. mokinių tėvų prašymu pastatytas specialus pastatas (dabartinės mokyklos teritorijoje) ir iš smuklininko namų mokykla persikėlė į naujas patalpas.

Apie 1870–1875 m. Eržvilko apylinkėse įvykdytas valstybinės žemės dalijimas. Tuo metu mokykla gavo žemės sklypą (vieną dešimtinę ir 674 sieksnius). Pastatytas mokyklos priestatas. Naujame pastate buvo 3 skyriai. Mokiniai sėdėjo dviviečiuose suoluose (iki tol sėdėjo aplink stalus). Senojoje mokykloje įrengta valgykla, mokinių vadinama „špižarnė“.

1895 metais Eržvilko liaudies mokykla perorganizuota į dviklasę liaudies mokyklą. Joje buvo 5 skyriai. Mokinių skaičius dviklasėje mokykloje išaugo iki 150. Dviklasė mokykla Eržvilke veikė iki 1914 m. Egzaminus mokiniai turėjo laikyti Jurbarke, vėliau ir Eržvilke. Pažymėjimus išduodavo Raseinių apskrities mokykla. Sprendžiant iš pažymėjimų registracijos knygos, mokyklą baigdavo nedaug. Per 30 metų vos 100.

Po spaudos draudimo panaikinimo 1904 m. Eržvilko mokykloje pradėta mokyti lietuviškos abėcėlės, skaityti, nustota drausti kalbėtis lietuviškai.

Nemažai žinių apie Eržvilko mokyklą pateikta 1911 sausio 18 d. statistinėje ataskaitoje, kurią Vilniaus mokymo apygardos valdybai pateikė dviklasės mokyklos vedėjas E. Michalkovas. Mokykloje mokėsi 123 berniukai, 53 mergaitės. Ne visi vaikai buvo priimami į mokyklą. Trūko patalpų.

1913 m. senasis mokyklos pastatas jau tapo nebetinkamas. Jame iki nugriovimo (1916 m.) buvo padaryta didelė salė su scena. 1916 m. pastatytas atskiras namas, kuris ir dabar tebėra prie kelio į mokyklos kiemą. Kažkodėl jis buvo vadinamas „kumetynu“.

Eržvilko apylinkėse veikė ir daraktorinės mokyklos, įsikūrusios privačiuose namuose.

Per Pirmąjį pasaulinį karą švietimo darbas Eržvilke susilpnėjo.

Gyventojams pageidaujant Eržvilko valsčiaus Taryba 1922 m. liepos 3 d. nusprendžia steigti Eržvilko vidurinę mokyklą. Tame pačiame protokole patvirtina ir šios mokyklos pajamų ir išlaidų sąmatą.

1922 m. liepos 25 dieną Lietuvos švietimo ministerijos pradžios mokslo departamentas savo rašte Eržvilko valsčiaus vidurinei mokyklai steigti pareiškia, kad Švietimo Ministerijos 1922 m. liepos 24 d. rezoliucija leidžiama įsteigti Eržvilko vidurinę su amatų skyriumi mokyklą.

Taigi nepilna Eržvilko vidurinė mokykla atidaryta 1922 m. rugsėjo 1 d., iki 1925 metų ji buvo išlaikoma gyventojų ir valsčiaus savivaldybės lėšomis.

1935 m. rugpjūčio 1 d. raštu likviduota Eržvilko vidurinė mokykla. Uždarius vidurinę liko pradžios mokykla. Nuo 1935 m. joje veikė 6 skyriai. 1937–1938 m. pablogėjo ir pradžios mokyklos būklė. Senasis pastatas ėmė irti, o buvęs vidurinės mokyklos pastatas prie Balandinės miško dėl tolumo nuo miestelio, pelkėtos ir miškingos aplinkos buvo nepatogus ir nehigieniškas. Todėl 1938–1939 m. pradėta rūpintis naujos mokyklos pastato statyba.

1940 m. lapkričio 7 d. atkurta Eržvilko vidurinė mokykla. Pirmą kartą mokykla apšviečiama elektra. Pradžios mokyklos V, VI skyriai perorganizuoti į klases.

Okupacijos metais Eržvilke teveikė tik trijų klasių progimnazija, 1945 m. baigė 1 gimnazijos laida, 21 abiturientas.

Pirmasis priestatas iškilo 1964 m., o antrasis priestatas su bendrabučiu, valgykla ir sporto sale – 1979 metais.

Sava katilinė pastatyta 1994 metais.

Mokyklos renovacija atlikta 2001 metais. Sutvarkyta katilinė, stogai, pakeisti langai.

2002 m. pradėtas vykdyti mokyklos vidaus auditas.

2004 m. vasarą atliktas dalinis vidaus remontas.

2005 m. rugsėjo mėn. paminėtas 140 metų mokyklos jubiliejus.

2015 m. balandžio 24 d. gimnazija minėjo 150 metų jubiliejų.