在古代,因為有青金石「以其色青，此以達升天之路，故用之」的說法,所以自稱「天子」的那些帝王不僅把青金石用作通天之法器，進行祭祀、祈禱，死後還把它帶進墳墓。我國古代的青金石應用歷史究竟有多長,美國漢學家赫爾芝教授1885年認為，中國在公元2世紀(東漢)時開始使用青金石。但是，我國近代考古地質學奠基人章鴻釗先生1921年在《石雅》一書中提到，中國早在4000年前的三代之初就已經應用青金石了。
青金石鼻煙壼
《尚書·禹貢》記載了夏代時位於西方的雍州曾向中央王朝進貢璆琳，而璆琳就是青金石的波斯語音譯。這說明青金石在我國夏代就已經得到了開發利用，並成為王朝禮法規定的神聖貢物。然而，遺憾的是考古發掘迄今還未發現夏代的青金石飾品。
目前，中國考古發掘的最古老的青金石制品是春秋時期曾侯乙墓出土的，同墓還出土了大量青銅器、黃金(1737.10,-3.20,-0.18%)製品、鋁錫製品、絲麻製品、皮革製品和其他玉石製品。墓中的玉石製品大都為佩飾物或葬玉，數量多達528件，其質地除了青金石，還有玉、寶石、水晶、紫晶、琉璃等，其中不少為稀世精品。此外，我國還出土過一把春秋時期的越王劍，其劍格鑲嵌了藍綠色寶石。寶石學家鑒定發現，這把越王劍的劍格所鑲玉石一邊為青金石，另一邊為綠松石。
東晉王嘉著《拾遺記·卷五》載：「昔始皇為家，……以琉璃、雜寶為龜魚。」春秋戰國以至秦代的「琉璃」根據章鴻釗先生的研究很可能也指青金石，所以《拾遺記》的記載說明色相如天的青金石對始皇帝來說是何等重要啊!
漢代青金石的雕刻工藝已經達到了相當高的水平。1969年，考古工作者在徐州東漢彭城靖王劉恭墓出土了一件鎏金嵌寶獸形硯盒，高10厘米，長25厘米，重3.85千克。硯盒作怪獸伏地狀，通體鎏金，盒身鑲嵌有紅珊瑚、綠松石和青金石。
南北朝時期，中亞地區的青金石不斷傳入中土。1975年，河北贊皇東魏李希宋墓發掘時，出土了一枚鑲青金石的金戒指，重11.75克，所鑲的青金石呈藍灰色，上刻一鹿，周邊有聯珠紋。同墓中還出土了三枚東羅馬金幣，說明這枚鑲青金石金戒指極可能來自中亞地區。
遞及隋唐，中國與中亞地區的交往進一步增加，這在青金石文物上也有所反映，如1957年西安郊區的隋朝李靜訓墓中出土了一件頗具波斯風格的金項鏈，金項鏈上就鑲嵌有青金石。
到了清代，皇室延續了使用青金石祭天的傳統。《清會典圖考》載：「皇帝朝珠雜飾，唯天壇用青金石，地壇用琥珀，日壇用珊瑚，月壇用綠松石。皇帝朝帶，其飾，天壇用青金石，地壇用黃玉，日壇用珊瑚，月壇用白玉。」青金石因為色相如天，按典制規定而常被皇帝用來裝飾天壇和祭祀上天。至於清代帝后們使用的各色首飾和儀禮用品，青金石的使用也很普遍，如清宮遺存中價值最高和最貴重的文物——乾隆生母金髮塔，其塔座和龕邊就鑲嵌了很多青金石。
自漢代以來，中亞地區輸入的青金石還被作為彩繪用的藍色顏料使用，如敦煌莫高窟、敦煌西千佛洞自北朝到清代的壁畫和彩塑上都使用了青金石作藍色顏料，與4000年前古埃及的法老和王后墓葬壁畫使用青金石粉作藍色顏料如出一轍。
