Η λέξη εκσυγχρονισμός ήταν αυτή που ταυτίστηκε όσο καμία άλλη με τον Κώστα Σημίτη. Με αυτήν περιέγραψε όλη του την πολιτική την οποία θεώρησε αναγκαία για τη μεγάλη και ισχυρή Ελλάδα, όπως την οραματιζόταν. Στο βιβλίο του «Ανάπτυξη και εκσυγχρονισμός της ελληνικής κοινωνίας» αναφέρθηκε στον όρο. «Με τη λέξη εκσυγχρονισμός εννοούμε τη διεύρυνση των δυνατοτήτων της ελληνικής κοινωνίας να αντιμετωπίζει προβλήματα της εξέλιξής της και να καθοδηγεί τις λύσεις τους. Ο εκσυγχρονισμός πρέπει να οδηγεί σε αυξημένη ικανότητα χειρισμού και ελέγχου σε όλες τις διαστάσεις του αναπτυξιακού γίγνεσθαι».
Ο πρώτος αντίπαλος του εκσυγχρονισμού όπως τον εννοούσε ο Κώστας Σημίτης ήταν το πελατειακό κράτος αλλά και η θεμελιωμένη νοοτροπία ενός μεγάλου μέρους της ελληνικής κοινωνίας ότι θα έπρεπε να τα περιμένει όλα από ένα υδροκέφαλο Δημόσιο.
Για τον Σημίτη και τους εκσυγχρονιστές, για να χτυπηθούν οι παθογένειες της ελληνικής κοινωνίας έπρεπε όλο και περισσότεροι πολίτες να αποκτούν τη δυνατότητα να αντιμετωπίζουν τόσο τα προσωπικά όσο τα κοινά τους προβλήματα, περιορίζοντας έτσι τη δύναμη των εξουσιαστικών μηχανισμών που τους πειθαναγκάζουν. Αυτό προϋπέθετε συγκρούσεις. Με κατεστημένα, με ευνοούμενους ενός πελατειακού συστήματος που είχε τις ρίζες του στην ίδρυση του ελληνικού κράτους. Από την πρώτη συναλλαγή πολιτικών με οργανωμένες ομάδες που απαιτούσαν για ίδιον όφελος.
Τα εκσυγχρονιστικά μέτρα του Σημίτη δεν ήταν δημοφιλή. Προκάλεσαν συγκρούσεις, όπως είπε και ο ίδιος, αναμενόμενες. Πίστευε όμως ότι ήταν απολύτως αναγκαία, αφού η επιδότηση ορισμένων κοινωνικών ομάδων στερούσε από την κοινωνία δημόσιους πόρους οι οποίοι θα βοηθούσαν στην ανάπτυξη.
Ο ίδιος τόνιζε ότι ο εκσυγχρονισμός είναι άρρηκτα συνδεδεμένος με τον ορθολογισμό. Προκαταλήψεις, εμμονές, φαντασιώσεις, ιδεολογήματα είναι ασυμβίβαστα με την εκσυγχρονιστική προσπάθεια. Αργά ή γρήγορα τη ματαιώνουν. Ωστόσο για τον ίδιο ο δύσκολος, επίπονος και αντιδημοφιλής εκσυγχρονισμός ήταν μονόδρομος για την Ελλάδα της υστέρησης που ήθελε να ανεβεί επίπεδο. Δύο ακόμη εχθρούς αντιμετώπιζε ο Σημίτης στην προσπάθεια ανάπτυξης και ευρωπαϊκής εναρμόνισης. Τον λαϊκισμό, με τη συνεχή ικανοποίηση συντεχνιακών αιτημάτων, που σπαταλούσαν πόρους σε βάρος των ασθενέστερων στρωμάτων, αλλά και τον εθνικισμό.
Μιλούσε για το ελληνικό παράδοξο. Την ύπαρξη δύο αντιτιθέμενων τάσεων στην ελληνική κοινωνία. Η μία να ασπάζεται τα σύγχρονα ρεύματα σκέψης, να υποστηρίζει την προσαρμογή της χώρας στα πρότυπα των προηγμένων χωρών, να είναι εξωστρεφής και ανοιχτή στις ιδέες της παγκόσμιας κοινότητας. Και απέναντί της θεωρούσε ότι βρίσκεται ένα συντηρητικό βαθύ τμήμα, πολυσχιδές, με διάφορες συνιστώσες που έχουν έντονες διαφορές μεταξύ τους αλλά είναι όλες αφοσιωμένες στη διατήρηση των κεκτημένων προνομίων ή προσόδων και στη διεύρυνση της κοινωνικής επιρροής τους. Το δεύτερο κομμάτι της ελληνικής κοινωνίας μισεί τις νέες ιδέες και ασπάζεται τον εθνικισμό.
Ο Σημίτης συγκρούστηκε για τις ιδέες του με νίκες και με ήττες. Νίκη η ΟΝΕ και η ισχυρότερη θέση της Ελλάδας στην Ευρώπη, ήττα το πελατειακό κράτος που παραμένει πανίσχυρο. Αλλά, όπως έλεγε ο ίδιος, ο εκσυγχρονισμός δεν έχει ημερομηνία λήξης.
