우리는 일상에서 물질의 상태 변화를 흔히 목격합니다. 컵 속의 물이 꽁꽁 얼어 얼음이 되거나, 끓이면 수증기로 변하는 현상처럼 말이죠. 이러한 변화를 우리는 ‘상전이’라고 부릅니다. 하지만 우리가 경험하는 상전이는 거시적인 세계의 이야기일 뿐입니다. 만약 온도를 극단적으로 낮추어, 상상조차 하기 힘든 절대 영도(영하 273.15도) 근처로 가져가면 무슨 일이 벌어질까요? 그곳에서는 우리의 직관을 뛰어넘는, 양자역학의 법칙이 지배하는 기묘하고도 아름다운 세상이 펼쳐집니다. 바로 오늘 이야기할 초유체와 보스-아인슈타인 응축체라는 특별한 물질 상태와 그들의 신비로운 상전이 현상입니다.
양자 세계의 두 주인공, 보손과 페르미온
본격적인 이야기에 앞서, 양자 세계를 구성하는 입자들의 두 가지 종류에 대해 간단히 알아볼 필요가 있습니다. 모든 입자는 ‘보손(Boson)’과 ‘페르미온(Fermion)’이라는 두 그룹으로 나뉩니다. 이 둘의 가장 큰 차이는 같은 공간을 공유하는 방식에 있습니다.
페르미온은 지극히 개인주의적인 입자입니다. ‘파울리 배타 원리’에 따라, 두 개의 페르미온은 절대로 동일한 양자 상태에 함께 존재할 수 없습니다. 마치 지정 좌석제 영화관처럼, 각자의 자리가 정해져 있어 다른 입자가 들어올 틈을 주지 않죠. 우리가 아는 전자, 양성자, 중성자 등이 바로 이 페르미온에 속합니다.
반면, 보손은 사교적인 입자입니다. 이들은 파울리 배타 원리의 적용을 받지 않아, 수십, 수백, 심지어 수백만 개의 입자가 하나의 양자 상태에 함께 옹기종기 모여 있을 수 있습니다. 마치 자유석 콘서트장처럼, 같은 공간에 여러 명이 함께 어울리는 것을 즐기는 셈이죠. 빛을 구성하는 광자(photon)나, 특정 원자들(헬륨-4 등)이 보손에 해당합니다. 오늘 이야기의 핵심인 초유체와 보스-아인슈타인 응축체는 바로 이 사교적인 보손 입자들이 만들어내는 경이로운 합작품입니다.
제5의 물질 상태, 보스-아인슈타인 응축체
1924년, 인도의 물리학자 사티엔드라 나트 보스는 빛 입자인 광자에 대한 새로운 통계 법칙을 아인슈타인에게 보냈습니다. 아인슈타인은 이 아이디어를 일반적인 보손 입자들로 확장하여, 극저온 상태의 보손 기체가 보일 기묘한 행동을 예측했습니다. 바로 수많은 보손 입자들이 에너지를 잃고 가장 낮은 에너지 상태로 떨어지면서, 마치 하나의 거대한 입자처럼 행동하게 되리라는 것이었습니다. 개별 입자들의 정체성이 사라지고 거대한 단일 양자 파동으로 합쳐지는 이 상태를 두 과학자의 이름을 따 ‘보스-아인슈타인 응축체(Bose-Einstein Condensate, BEC)’라고 부릅니다.
이 예측이 실험적으로 증명되기까지는 무려 70년이라는 시간이 걸렸습니다. 1995년, 미국의 에릭 코넬과 칼 와이먼, 그리고 독일의 볼프강 케털리 연구팀이 마침내 루비듐 원자 기체를 절대 영도에 매우 가까운 온도로 냉각시켜 보스-아인슈타인 응축체를 만들어내는 데 성공했습니다. 이 업적으로 그들은 2001년 노벨 물리학상을 수상했습니다.
보스-아인슈타인 응축체로의 상전이는 우리가 아는 얼음이나 수증기로의 변화와는 근본적으로 다릅니다. 일반적인 기체를 냉각시키면 원자들의 속도가 느려지다가 액체, 그리고 고체로 변합니다. 하지만 보손 기체를 극저온으로 냉각하면, 원자들의 물질파 파장이 점점 길어집니다. 그러다 특정 임계 온도 이하로 내려가는 순간, 각각의 파장들이 서로 겹쳐지기 시작하며 마침내 하나의 거대한 파동 함수로 합쳐집니다. 이 순간, 수백만 개의 원자들이 마치 한 몸처럼 완벽하게 동일한 상태에서 동일한 움직임을 보이는, 고체, 액체, 기체, 플라스마와는 전혀 다른 제5의 물질 상태가 탄생하는 것입니다. 이것이 바로 보스-아인슈타인 응축체로의 양자적 상전이입니다.
점성 0의 기적, 초유체 현상
이제 또 다른 주인공인 초유체(Superfluid)를 만나볼 차례입니다. 초유체는 이름 그대로 ‘초월적인 유체’라는 뜻으로, 점성이 완전히 0이 되어 저항 없이 흐를 수 있는 액체를 말합니다. 한번 흐르기 시작하면 마찰이 없어 영원히 멈추지 않고, 심지어 중력을 거슬러 용기 벽을 타고 올라가 흘러나오는 기이한 현상을 보이기도 합니다.
이 초유체 현상은 보손 입자인 헬륨-4 원자를 액화시킨 뒤, 약 2.17K(영하 270.98도) 이하로 냉각했을 때 처음 발견되었습니다. 이 특정 온도를 ‘람다점(Lambda Point)’이라고 부르는데, 이 온도에서 액체 헬륨의 비열 그래프 모양이 그리스 문자 람다(λ)와 비슷하기 때문에 붙여진 이름입니다. 람다점을 경계로 액체 헬륨은 평범한 액체(헬륨 I)에서 초유체(헬륨 II) 상태로 상전이를 일으킵니다.
헬륨-4 원자가 초유체가 되는 원리 역시 보스-아인슈타인 응축과 깊은 관련이 있습니다. 헬륨-4 원자들은 보손이기 때문에, 극저온 상태가 되면 많은 수의 원자들이 가장 낮은 에너지 상태로 응축하려는 경향을 보입니다. 이렇게 응축된 원자들은 하나의 거대한 양자 시스템처럼 행동하게 되고, 이 집단적인 양자 현상이 바로 점성이 사라지는 초유체 현상으로 나타나는 것입니다. 즉, 액체 헬륨의 초유체 상태는 밀도가 높은 액체 상태에서 일어나는 보스-아인슈타인 응축의 한 형태라고 볼 수 있습니다.
초유체의 기묘한 특성은 여기서 그치지 않습니다. 초유체를 회전시키면 일반적인 액체처럼 전체가 부드럽게 도는 것이 아니라, 양자화된 작은 소용돌이(Quantized Vortex)들이 불연속적으로 생성됩니다. 이는 초유체가 거시적인 크기에도 불구하고 그 본질은 양자역학의 지배를 받는다는 강력한 증거입니다.
초유체와 보스-아인슈타인 응축체, 닮은 듯 다른 두 현상
그렇다면 초유체와 보스-아인슈타인 응축체는 완전히 같은 현상일까요? 답은 ‘비슷하지만, 정확히 같지는 않다’입니다. 두 현상 모두 보손 입자들이 극저온에서 보이는 집단적인 양자 현상이라는 공통점을 가집니다. 하지만 중요한 차이점이 존재합니다.
일반적으로 ‘보스-아인슈타인 응축체’라고 할 때는 1995년에 실험적으로 구현된 것처럼, 입자 간 상호작용이 매우 약한 희박한 기체 상태에서 거의 모든 입자가 바닥 상태로 응축한 이상적인 경우를 지칭합니다. 반면, 액체 헬륨의 초유체는 원자들 간의 상호작용이 매우 강한 액체 상태에서 나타납니다. 이 때문에 액체 헬륨이 초유체 상태가 되어도, 모든 원자가 바닥 상태로 응축하는 것이 아니라 일부(약 10% 정도)만이 응축하고, 나머지 원자들과의 복잡한 상호작용을 통해 전체 시스템이 점성 없는 초유체적 특성을 띠게 됩니다.
따라서 초유체 현상은 보스-아인슈타인 응축이라는 근본적인 원리에 기반하지만, 입자 간의 강한 상호작용이라는 현실적인 요소가 더해져 나타나는, 보다 복잡하고 구체적인 물리 현상이라고 이해할 수 있습니다.
양자역학이 빚어낸 예술, 그 미래는?
초유체와 보스-아인슈타인 응축체, 그리고 이들 사이의 상전이 현상은 단순히 물리학자들의 지적 호기심을 충족시키는 것을 넘어섭니다. 이 거시적인 양자 시스템은 우주 초기의 상태를 연구하거나, 중성자별 내부를 이해하는 중요한 모델이 됩니다. 또한, 원자들이 완벽하게 동일한 상태에 있는 보스-아인슈타인 응축체의 성질을 이용하면 기존의 기술로는 불가능했던 초정밀 원자시계나 중력계를 만들 수 있습니다. 더 나아가 양자 컴퓨터의 정보를 저장하고 처리하는 매개체로서의 가능성도 활발히 연구되고 있습니다.
우리가 발 딛고 사는 세상의 법칙과는 너무나도 다른, 절대 영도 근처의 세상. 그곳에서 입자들은 개성을 잃고 하나가 되며, 마찰 없이 영원히 흐릅니다. 이 기묘하고도 아름다운 상전이 현상은 우리에게 양자 세계의 심오한 원리를 엿보게 해주는 창과 같습니다. 미지의 세계를 향한 인류의 탐구는 앞으로도 계속될 것이며, 이 차가운 세상 속에서 또 어떤 뜨거운 발견이 우리를 기다리고 있을지 기대하게 됩니다.