Από το 1926 ξεκινά η πρώτη συλλογή βιβλίων με 2.000 τόμους από τη βιβλιοθήκη του Γυμνασίου της Σύρου, τη βιβλιοθήκη του Ι. Ρώτα και του Επισκόπου Κυκλάδων Άνθιμου Κομνηνού, καθώς και χιλιάδων τίτλων που δώρισε ο ποιητής, στιχουργός και πεζογράφος Μάνος Ελευθερίου. Μια συλλογή που σήμερα υπολογίζεται στους 55.000 τόμους συμπεριλαμβανομένων των βιβλίων Αργοναυτικά του 1521, Ονομαστικό του Πολυδεύκους του 1608, Ιουστινιάναι και συλλογές του Συριανού τύπου από τον προηγούμενο αιώνα. Η βιβλιοθήκη στεγάζεται στο ισόγειο ενός πανέμορφου νεοκλασικού κτιρίου του 1863 στην πλατεία Μιαούλη, στο οποίο, επίσης, φιλοξενείται και το Πνευματικό Κέντρο της Ερμούπολης. Στον χώρο της δημόσιας βιβλιοθήκης οργανώνονται κατά καιρούς διάφορες πολιτιστικές εκδηλώσεις τις οποίες αξίζει κανείς να παρακολουθήσει. Οι προτομές των Εμμανουήλ Ροίδη, Γεώργιου Σουρή, Ρίτας Μπούμη-Παππά, Δημήτρη Βικέλα και Τιμολέοντα Αμπελά κοσμούν το μικρό κηπάκι μπροστά από τη Δημοτική Βιβλιοθήκη.