据《韩非子·和氏》记载，春秋时期楚国人卞和在荆山发现一块璞玉，认定其中藏有绝世美玉，遂将其献给楚厉王。厉王命玉工鉴别，玉工鉴定“石也”，厉王以欺君之罪砍掉卞和左脚。武王即位后，卞和再度献玉，结果仍被认为是石头，右脚又被斩断。直到楚文王继位，卞和抱着璞玉在荆山之下痛哭三日三夜，泪尽而继之以血。文王听闻后派人询问，卞和泣曰：“吾非悲刖也，悲夫宝玉而题之以石，贞士而名之以诳。”文王遂命人剖开璞玉，果然得一绝世美玉，为纪念卞和，将其命名为“和氏璧”。
这块美玉因其质地温润、色泽莹润成为天下至宝，到战国时期，和氏璧为赵国所得，消息传入秦国，秦昭王提出以十五座城池交换和氏璧。
《史记·廉颇蔺相如列传》记载了这一事件：赵惠文王时，秦求璧而愿以城易，赵国陷入“予璧则恐欺，不予则恐伐”的两难境地。宦官缪贤举荐门客蔺相如出使秦国，蔺相如携璧入秦，见秦王无意偿城，遂以“璧有瑕，请指示王”为由取回和氏璧，持璧倚柱，怒发冲冠，声称若秦王相逼，便“头与璧俱碎于柱矣”。秦王恐璧受损，只得假意应允。蔺相如识破诡计，暗中命人携璧从小路返回赵国，自己则留下与秦王周旋，最终全身而退。
然而，这块美玉，终究未能长久留在赵国。公元前228年，秦国攻破赵国都城邯郸，和氏璧终归秦国。
公元前221年，秦始皇统一六国，建立中国历史上第一个中央集权王朝。为彰显自己“德兼三皇，功过五帝”的至高地位，他下令将和氏璧雕琢为玉玺，李斯以虫鸟篆书写“受命于天，既寿永昌”八字刻于其上，这便是后世所称的“传国玉玺”。从此，和氏璧成为“天命所归”的象征——拥有传国玺，便意味着获得上天认可的正统地位；失去传国玺，则被视为“气数已尽”的征兆。
公元前207年，刘邦率军攻破咸阳，秦王子婴素车白马，捧着传国玉玺向刘邦投降，传国玉玺落入西汉皇室手中。西汉二百余年，传国玺作为皇权信物，代代相传。
初始元年（公元8年），王莽建立新朝，派人向太皇太后王政君索要传国玺。王政君虽为王莽姑母，却心系汉室，怒将玉玺掷于地上，导致玉玺一角破损。王莽只得命人以黄金镶嵌补缺，这便是传国玉玺“金镶玉”的由来。更始三年（公元25年），绿林军攻破长安，王莽被杀，传国玉玺几经辗转，落入更始帝刘玄手中。不久后，赤眉军击败刘玄，传国玺又归赤眉军拥立的刘盆子所有。直到建武三年（公元27年），刘秀击败赤眉军，定都洛阳，传国玺重新回到汉室手中。
东汉末年，天下大乱，中平六年（公元189年），董卓作乱，焚烧洛阳，胁迫汉献帝西迁长安，传国玺随之流落关中。据《三国志》记载，当时掌管玉玺的宦官将玉玺投入井中。后来，孙坚率军攻入洛阳，在城南甄官井中打捞出玉玺，其上刻有“受命于天，既寿永昌”八字，正是传国玉玺。
孙坚得到玉玺后，本欲凭此号令诸侯，却被袁术以孙坚妻子为人质相要挟，逼迫孙坚交出玉玺。建安二年（公元197年），袁术称帝，却因实力不足迅速败亡，传国玺落入曹操手中。建安二十五年（公元220年），曹丕篡汉建魏，为彰显自己的正统性，他命人在传国玺肩部刻下“大魏受汉传国玺”七个字。
咸熙二年（公元265年），司马炎篡魏建晋，传国玺归入西晋皇室。永嘉五年（公元311年），永嘉之乱爆发，匈奴人刘聪攻破洛阳，俘获晋怀帝，传国玉玺被掳至匈奴政权汉赵手中。此后，传国玉玺在北方少数民族政权中辗转，先后经历前赵、后赵、冉魏等政权。直到永和六年（公元350年），冉魏被前燕击败，冉闵之子冉智派人将传国玺送往东晋，请求援军，传国玉玺才重新回到汉族政权手中，史称“玺归东晋”。