Etroitement liée aux coutumes Ottomanes, l'histoire des harems remonte pourtant à l'antique civilisation des Assyriens. En effet, bien avant l'émergence de l'Islam dans les populations de la région méditerranéenne et du Moyen Orient, les femmes avaient fréquemment la tête couverte d'un voile. Avec le temps, ces divers peuples ajoutèrent des éléments qui conduisirent au mode de vie du harem.
En 1299, avec l'arrivée des Ottomans sur la scène de l'histoire, le vie de harem, la polygamie et d'autres habitudes de l'époque furent adoptés naturellement par les souverains musulmans. Ces coutumes concernaient surtout la vie dans les palais des Sultans et des Vizirs et les demeures des hauts dignitaires.
Le mot harem signifie lieu interdit, lieu de félicité. De la plus modeste des habitations au plus somptueux des palais impériaux, la vie domestique était dominée par l'autorité du chef de famille sur tous les membres qui y habitaient, c'est à dire femmes, enfants et domestiques.
Dans le harem et son jardin privé vivaient les femmes. Dans la partie réservée aux hommes,
dite selamlık, habitaient le chef de famille et les autres membres masculins avec leurs serviteurs.
Sous le règne de Soliman le Magnifique (1495-1566), la Dynastie Ottomane, en abandonnant l'usage de contracter des mariages avec des princesses chrétiennes puis avec les femmes musulmanes ou non des dynasties et tribus des pays voisins, obligea les Seigneurs de l'Empire à se contenter de courtisanes. Au début, celles ci étaient originaires des pays Balkaniques, mais ensuite, on préféra les jeunes filles Géorgiennes et Circassiennes. Entrées dans le harem, et une bonne instruction. Les plus belles d'entre elles restaient à la disposition du Sultan comme odalisques, les autres, la majorité, étaient préposées à des charges diverses. Parmi les odalisques, le choix du Sultan se portait sur quelques unes qui prenaient le titre de favorite (gözde). Si une favorite mettait au monde un enfant, elle prenait le titre de concubine (ikbal ou haseki) et pouvait accéder au titre honorifique d'épouse (kadınefendi). Au sommet de cette hiérarchie il y avait la mère du Sultan (valide Sultan) qui à ce titre avait la priorité sur toutes les femmes du palais et devenait la plus puissante femme de l'empire.
L'organisation du harem et la direction de ses habitantes étaient entre les mains des haznedar ustalar qui avaient sous leurs ordres des femmes de charge et courtisanes (kalfa et cariye). Certaines étaient directement au service privé du Sultan. Elles s'occupaient de sa vie quotidienne: le bain, l'habillement, le nettoyage des vêtements, le service des repas, la préparation du café et l'approvisionnement. Les autres étaient au service de tous les occupants du harem pour ce qui concerne l'entretien, le nettoyage des vêtements et appartements ainsi que le chauffage des hammams. Elles devaient également veiller à la discipline et à l'organisation des cérémonies à l'occasion des mariages, naissances et fêtes religieuses. Elles étaient aussi chargées de soigner les malades, assister les accouchements et prodiguer les soins aux nourrissons. Elles étaient rémunérées à la journée pour leur travail, en fonction de leur expérience et de leur compétence. Après neuf années de service au palais, elles avaient le droit de partir et, si elles désiraient se marier, le Sultan lui même leur remettait une permission écrite qui leur rendait leur liberté.
Les règlements de fonctionnement du harem autorisaient, dans certaines conditions et avec une autorisation préalable, les sorties pour se rendre dans un hammam à l'extérieur, partir en visite dans un autre palais et très exceptionnellement pour se promener dans les parcs de la ville. Ces escapades ne pouvaient évidemment pas se faire sans une escorte d'eunuques (haremağaları). Ces esclaves noirs castrés étaient chargés de la protection et de la surveillance de tout le harem.
Le harem était une véritable institution éducative où l'on pouvait apprendre en même temps que les bonnes manières, la lecture, l'écriture, l'histoire, la géographie, les mathématiques et bien sur la lecture du Coran. La danse et la musique tenaient une place privilégiée dans l'éducation des jeunes filles et c'est ainsi que pendant des siècles le harem fut célèbre pour la qualité des représentations artistiques.
Le harem de Topkapı, dans le plus grand palais de l'Empire, s'agrandit avec l'arrivée au pouvoir
de Soliman le Magnifique jusqu'à compter 400 pièces. Suivant les époques et les palais, 200 a 1000 personnes vivaient dans l'enceinte d'un harem.
Durant des siècles, de bouche à oreille, la vie des harems fut racontée et déformée par les fantaisies orientalistes des occidentaux.
La vie de harem s'eteignit en 1923 avec la création de la République Turque.
En 1924, le Palais de Topkapı devint un musée.