Im seinem ersten Amtszeit, Herr Simitis begann damit, Griechenlands verschwenderische öffentliche und private Ausgaben einzuschränken und die Wirtschaft auf die Erfüllung der europäischen Union-Ziele für den Eintritt seines Landes in die Eurozone vorzubereiten. Er hatte Erfolg darin, die Inflation und die öffentliche Verschuldung zu reduzieren und die Drachme-Währung zu stabilisieren.
Seine vorsichtige Art bot einen deutlichen Kontrast zu den Papandreou-Jahren.
„Wir brauchten jemanden, der weniger sagt und mehr macht, eine Person, die ein gewöhnlicher Grieche ist, die nicht von oben herabsteigt und die Probleme nicht mit endlosen Mythen verbirgt“, sagte Dimitris Rappas, ein Regierungssprecher, der New York Times im Jahr 1996.
Herr Simitis gewann 2000 eine zweite Amtszeit, jedoch nur mit knapper Mehrheit und weit entfernt von der Zustimmung, die er gegen seinen Hauptkonkurrenten, Kostas Karamanlis, den Vorsitzenden der Nea Dimokratia-Partei, erwartet hatte. Es war auch unter Herrn Simitis‘ Führung, dass Griechenland sich schließlich mit der gefürchteten urbanen Terroristenbewegung vom 17. November auseinandersetzte, die aus einem Volksaufstand gegen die vom amerikanischen Militär unterstützten Offiziere hervorgegangen war, die 1967 an die Macht kamen.
2002 begann ein verletzter Bomber zu reden und infolgedessen nahm die Polizei eine Vielzahl von Festnahmen vor, die die Behörden dazu veranlassten zu sagen, dass der Großteil der Organisation ausgehoben worden sei. Theodore Couloumbis, ein politischer Analyst, sagte damals, dass das Land einen „Meilenstein“ durchgemacht habe.
„Wir haben die Schwelle von einer instabilen Demokratie zu einer konsolidierten überschritten“, sagte er.
Zwei Jahre später trat Herr Simitis jedoch als Vorsitzender der PASOK zurück und erklärte, dass er nicht an der bevorstehenden Wahl teilnehmen werde, bei der seine Partei der Nea Dimokratia unterlag. Er wurde als Vorsitzender der PASOK von George Papandreou, einem Sohn von Andreas Papandreou, der zu dieser Zeit Außenminister Griechenlands war, abgelöst.