氣相色譜的樣品分離系統主要由進樣室和色譜柱組成。

進樣室有多種型式，如氣體進樣閥、液體進樣室和熱裂解進樣室等。而色譜柱通常為內徑2-3毫米、長1-3米、內盛固定相的填充柱，或內徑0.25毫米、長20米以上、內涂固定液的開管柱。

色譜儀利用色譜柱先將混合物分離，然后利用檢測器依次檢測已分離出來的組分。色譜柱的氣相色譜儀直徑為數毫米，其中填充有固體吸附劑或液體溶劑，所填充的吸附劑或溶劑稱為固定相。與固定相相對應的還有一個流動相。流動相是一種與樣品和固定相都不發生反應的氣體，一般為氮或氫氣。待分析的樣品在色譜柱頂端注入流動相，流動相帶著樣品進入色譜柱，故流動相又稱為載氣。載氣在分析過程中是連續地以一定流速流過色譜柱的；而樣品則只是一次一次地注入，每注入一次得到一次分析結果。

樣品在色譜柱中得以分離是基于熱力學性質的差異。固定相與樣品中的各組分具有不同的親合力（對氣固色譜儀是吸附力不同，對氣液分配色譜儀是溶解度不同）。當載氣帶著樣品連續地通過色譜柱時，親合力大的組分在色譜柱中移動速度慢，因為親合力大意味著固定相拉住它的力量大。親合力小的則移動快。

為了獲得最好的分離分析效果，色譜柱長應以最難分離的物質對能達到所需的分離度為準（分離度與柱長平方根成正比）。