Handlingen finner sted på begynnelsen av det XX århundre (i årene rett før utbruddet av første verdenskrig) i Sveits, i et tuberkulosesanatorium nær Davos. Navnet på romanen vekker assosiasjoner til Mount Gerzelberg (Sinful, eller Magic Mountain), der, ifølge legenden, minnesinger Tannhäuser tilbrakte syv år i fangenskap med gudinnen Venus.
Romanens helt, en ung tysker ved navn Hans Kastorp, kommer fra Hamburg til Berggof-sanatoriet for å besøke sin kusine Joachim Zimsen som er under behandling der. Hans Kastorp har tenkt å tilbringe ikke mer enn tre uker i sanatoriet, men mot slutten av den planlagte perioden føler han seg uvel, ledsaget av en økning i temperaturen. Som et resultat av en medisinsk undersøkelse viser han tegn til tuberkulose, og etter insistering fra overlege Behrens forblir Hans Kastorp i sanatoriet i en lengre periode. Helt fra ankomst, oppdager Hans Kastorp at tiden i fjellet ikke flyter i det hele tatt som på sletten, og derfor er det nesten umulig å avgjøre hvor mange dager, uker, måneder, år som gikk mellom disse eller de beskrevne hendelsene og hvor lang tid hele romanen dekker. Helt på slutten av romanen sies det imidlertid at Hans Castorp tilbrakte hele syv år i sanatoriet, men selv dette tallet kan betraktes som et visst kunstnerisk stevne.
Faktisk er plottet og hendelsene som oppstår i romanen absolutt ikke viktig for å forstå dens betydning. De er bare en unnskyldning for å kontrastere karakterene til forskjellige livsposisjoner og gi forfatteren muligheten til å snakke leppene sine om mange spørsmål som angår ham: liv, død og kjærlighet, sykdom og helse, fremgang og konservatisme, menneskets sivilisasjons skjebne på randen av 1900-tallet. Flere titalls figurer passerer i romanen - hovedsakelig pasienter, leger og pleiepersonell: noen er frisk og forlater Berghof, noen dør, men nye kommer stadig inn i deres sted.
Blant dem som Hans Kastorp møtes med allerede i de første dagene av oppholdet i sanatoriet, holdes et spesielt sted av Mr. Lodovico Settembrini - en etterkommer av Carbonari, en frimurer, en humanist, en fast tilhenger av fremgang. Samtidig hater han Østerrike-Ungarn lidenskapelig som en ekte italiener. Hans uvanlige, noen ganger paradoksale ideer, uttrykt i en lys, ofte kaustisk form, har enorm innvirkning på hodet til en ung mann som begynner å ære Herr Sethembrini som sin mentor.
En viktig rolle i livshistorien til Hans Kastorp ble også spilt av hans kjærlighet til den russiske pasienten på sanatoriet Madame Claudia Shosha - kjærligheten som han i kraft av den strenge utdannelsen han fikk i en kalvinistisk familie, til å begynne med motstått med all sin styrke. Mange måneder går før Hans Kastorp snakker med sin elskede - dette skjer under karnevalet på kvelden før fastetiden og Claudius avgang fra sanatoriet.
I løpet av tidsbruken i sanatoriet ble Hans Kastorp seriøst ført bort av mange filosofiske og naturvitenskapelige ideer. Han deltar på forelesninger om psykoanalyse, studerer alvorlig medisinsk litteratur, han er interessert i spørsmål om liv og død, han studerer moderne musikk, bruker for sine formål den siste oppnåelsen av teknologi - innspilling, etc. I hovedsak tenker han ikke lenger på livet sitt på sletten, glemmer at han vil vente på arbeid der, bryter praktisk talt båndene med sine få slektninger og begynner å betrakte livet i et sanatorium som den eneste mulige formen for eksistens.
Med fetteren Joachim er situasjonen akkurat motsatt. Han hadde lenge og hardt forberedt seg på en militær karriere, og anser derfor hver ekstra måned tilbrakt på fjellet som et uheldig hinder for realiseringen av hans livs drøm. På et tidspunkt kan han ikke tåle det, og ikke ta hensyn til advarslene fra leger, forlater sanatoriet, går inn i militærtjeneste og mottar en offisersrang. Imidlertid går det veldig lite tid, og sykdommen hans forverres, så han blir tvunget til å returnere til fjells, men denne gangen hjelper ikke behandlingen ham, og han dør snart.
Kort tid før dette faller en ny karakter inn i bekjentskretsen til Hans Kastorp - jesuiten Nafta, den evige og uforanderlige motstanderen av Mr. Settembrini. Nafta idealiserer den europeiske middelalderens fortid, fordømmer selve fremskrittsbegrepet og hele den moderne borgerlige sivilisasjonen som er nedfelt i dette konseptet. Hans Castorp befinner seg i en viss forvirring - når han lytter til de lange tvistene til Settembrini og Nafta, er han enig med den ene, deretter med den andre, og finner deretter motsetninger i både den ene og den andre, slik at han ikke lenger vet hvilken side som er sann. Innflytelsen fra Settembrini på Hans Kastorp er imidlertid så stor, og den medfødte mistilliten til jesuittene er så høy at han helt står på siden av den første.
I mellomtiden kom Madame Shosha tilbake til sanatoriet for en stund, men ikke alene, men ledsaget av hennes nye bekjentskap - den rike nederlenderen Peperkorn. Nesten alle innbyggerne i Berggof-sanatoriet er under magnetisk innflytelse fra denne ubetinget sterke, mystiske, om enn noe tungetilknyttede personen, og Hans Kastorp føler et slektsforhold til ham, fordi de er forent av kjærlighet til den samme kvinnen. Og dette livet ender tragisk. Når den dødssyke Peperkorn tar en tur til fossen, underholder sine følgesvenner på alle måter, om kvelden drikker han og Hans Kastorp til Brudershaft og går over til “du”, til tross for aldersforskjellen, og om natten tar Peperkorn gift og dør, snart forlater Madame Shosha sanatoriet - til denne gangen, tilsynelatende, for alltid.
Fra et bestemt øyeblikk i sjelen til innbyggerne i sanatoriet "Berghof" begynner det å bli en viss angst. Dette sammenfaller med ankomsten av en ny pasient - dansken Ellie Brand, som har noen overnaturlige evner, spesielt i stand til å lese tanker på avstand og forårsake ånder. Pasienter er avhengige av spiritualisme, arrangerer økter der Hans Kastorp er involvert, til tross for den kaustiske latterliggjørelsen og advarslene fra mentoren hans Settembrini. Det er etter slike økter, og kanskje som et resultat av deres tidligere målte tidspass i sanatoriet som er krenket. Pasienter krangler, av og til oppstår konflikter under den mest ubetydelige anledningen.
Under en av tvistene med Nafta hevder Settembrini at han ødelegger ungdommen med ideene sine. En trefning fører til gjensidige fornærmelser, og deretter til en duell. Settembrini nekter å skyte, og da skyter Nafta en kule i hodet.
Og så slo tordenen fra en verdenskrig ut. Beboere i sanatoriet begynner å reise hjem. Hans Castorp drar også til sletten, skilt av Mr. Settembrini for å kjempe der han er i nærheten av blod, selv om Mr. Settembrini selv ser ut til å støtte en helt annen side i denne krigen.
I sluttscenen er Hans Kastorp avbildet løpende, krypende, fallende, sammen med de samme unge mennene i soldatens overfrakker som falt i kjøttkvernen fra andre verdenskrig. Forfatteren sier bevisst ikke noe om heltenes endelige skjebne - historien om ham er over, og forfatteren var ikke interessert i livet selv, men bare som bakgrunn for historien. Som nevnt i siste avsnitt har imidlertid Hans Kastorp lite håp om å overleve.