Χτίστηκε κατά τα πρότυπα της αρχιτεκτονικής των μεσαιωνικών νησιωτικών οικισμών και έτσι διατηρείται έως και σήμερα
Η Κάρπαθος αποτελείται από 12 χωριά και τα περισσότεροι από αυτά διατηρούν το παραδοσιακό τους ύφος.
Ένα από αυτά είναι η Όλυμπος, ένας παραδοσιακός οικισμός που ξεδιπλώνεται, εντυπωσιακός, σε υψόμετρο 300 μέτρων, ανάμεσα σε δύο βουνοκορφές.
Η μια πλευρά της Ολύμπου είναι απόκρημνη ενώ η ανατολική της πιο ομαλή και με πρόσβαση στο επίνειό της, το Διαφάνι. Η δημιουργία του οικισμού αποδίδεται στις επιδρομές των πειρατών, που ανάγκασαν τους κατοίκους να αναζητήσουν καταφύγιο σε ορεινά και δυσπρόσιτα μέρη του νησιού. Έτσι, γύρω στον 7ο αιώνα, σκαρφάλωσαν στο σημείο του σημερινού οικισμού. Στην κορυφή του λόφου, ανάμεσα σε μεγαλύτερα βουνά, η φυσική «οχύρωση» της Ολύμπου παρείχε προστασία στους κατοίκους ενώ τα σπίτια της έχουν μοναδική θέα προς το Αιγαίο.
Η αρχιτεκτονική της Ολύμπου παραπέμπει στους μεσαιωνικούς νησιωτικούς οικισμούς και αυτή την εικόνα θα αντικρίσει σχεδόν αναλλοίωτη ο ταξιδιώτης. Αποκομμένη από τις υπόλοιπες περιοχές της Ελλάδας, με δυσκολία επικοινωνίας ακόμα και με την υπόλοιπη Κάρπαθο, η Όλυμπος ανέπτυξε τη δική της πολιτισμική παράδοση με πολλά στοιχεία της να διατηρούνται ακόμα. Οι επισκέπτες είναι πολύ πιθανό να συναντήσουν γυναίκες του χωριού να φορούν ακόμα την παραδοσιακή φορεσιά της περιοχής ενώ ορισμένοι κάτοικοι μιλούν ακόμα τη διάλεκτο του χωριού.
Το χωριό είναι σήμερα ανεπτυγμένο τουριστικά και επιφυλάσσει ξεχωριστές εμπειρίες στους ταξιδιώτες. Τα κλασικά νησιώτικα σπιτάκια, ανεμόμυλοι, το καμπαναριό, δημιουργούν μια εικόνα σαν βγαλμένη από άλλη εποχή.