Come centro abitato, Follonica è certamente giovane, in quanto la sua data di nascita coincide con la costruzione delle Reali e Imperiali Fonderie volute da Leopoldo II di Toscana nel 1834. Ma come località e punto di approdo, Fullona viene menzionata per la prima volta nel 1038 in un atto di donazione di terreni all'Abbazia di Sestinga, proprietaria di gran parte dell'Alta Maremma. Il documento più probante e che sicuramente fa riferimento all'attuale, è quello che sancisce una compravendita di grano del 1312 alla foce della Fullona.

La storia di Follonica è soprattutto legata, in antico, a quella del Castello di Valli, i cui ruderi ancor oggi campeggiano a nord della città su un'altura che domina il Golfo e la cui prima traccia storica si ha addirittura nell'884: è senza dubbio l'unico centro abitato sino appunto al 1834 quando, attorno alle fonderie, si cominciò a sviluppare il villaggio, che comunque, sino al 1838, rimase sotto la giurisdizione di Valli. Da quell'anno, cominciò l'ascesa di Follonica di pari passo con l'importanza economica e culturale che venivano assumendo le sue fonderie, in un crescendo che ne ha fatto la città odierna. Occorre inoltre precisare che l'uso del ferro e dei suoi derivati (ghisa in particolare) sono tipici della città sin dal tempo degli etruschi, che sono stati una grande risorsa per lo sviluppo siderurgico di tutta la zona e che, ancora oggi, si possono vedere le tracce degli altoforni nelle vicine colline metallifere.

Fino al 1923 fu frazione di Massa Marittima, poi venne elevata a comune autonomo.