Ο Π.Ο.Ψ. είναι ένα από τα ιστορικότερα σωματεία της χώρας μας.
Ιδρύθηκε το 1926 στo Νέο Ψυχικό από Μικρασιάτες πρόσφυγες με την επωνυμία Mικρασιατική Ένωσις Αθηνών όπως ονομαζόταν προπολεμικά, με χρώματα το κίτρινο και το άσπρο. Αγωνίστηκε στα πρωταθλήματα της Ε.Π.Σ. Αθηνών ως τα τέλη της δεκαετίας του '40.
Το 1948 μετά από συγχώνευση της Αθλητικής Ένωσης Ψυχικού και της Μικρασιατικής Ένωσις λαμβάνει το σημερινό του όνομα «Ποδοσφαιρικός Όμιλος Ψυχικού» με χρώματα το Πράσινο και το Λευκό.

Το 1948 συμμετέχει στην Ε.Π.Σ.Α. ως αναγνωρισμένο πλέον σωματείο, επιτυγχάνοντας σημαντικές διακρίσεις και αρχίζει να αποκτά ηγετικό ρόλο στις επίσημες διοργανώσεις. Η πορεία ανόδου συνεχίσθηκε και κατά τα επόμενα έτη.
Το 1956-1957 ως πρωταθλητής της Β’ κατηγορίας ανήλθε στην Α2. Το 1961-1962 ανήλθε στην επόμενη κατηγορία την Α1.

Αγωνίζεται αρκετά χρόνια τη δεκαετία του ‘60 και στις αρχές της δεκαετίας του ‘70 στην Α2 τη σημερινή Β’ Εθνική και αρκετές φορές συμπεριλαμβάνεται στα δελτία ΠΡΟ ΠΟ.

Στα χρόνια που ακολούθησαν διακρίνεται πρωταγωνιστώντας στην Α΄Αθηνών, παρόλο που αγωνίζονταν και αγωνίζεται μακριά από το Ψυχικό, αφού μέχρι και σήμερα δεν έχει δικό του γήπεδο.

Σύμφωνα με το αρχικό καταστατικό, ως γενέθλιος ημέρα της ίδρυσής του και επετείου αυτής, είναι η εκάστοτε ημέρα του ορθόδοξου εορτασμού της Αγίας Βαρβάρας, δηλ. η 4η Δεκεμβρίου.

Την περίοδο 2017-2018 κατέκτησε τον τίτλο του Πρωταθλήματος μετά από 32 έτη και επανήλθε στη Β’ κατηγορία της Ε.Π.Σ.Αθηνών, όπου αγωνίζεται την περίοδο 2018 -2019.