AI의 폭식: 기존 소프트웨어를 삼키고 물리적 한계마저 지워버리다

불과 하루아침에 435조 원이 허공으로 증발했다. 고도화된 AI 도구가 기존 소프트웨어 생태계를 통째로 갈아치울 것이라는 섬뜩한 전망이 시장을 덮친 결과다. 그동안 우리가 쓰던 AI가 업무를 거들어주는 친절한 조수 정도였다면, 이제는 아예 사람을 밀어내고 자리를 꿰차는 수준으로 진화해 버렸다. 당연히 수십 년간 굳건했던 소프트웨어 기업들이 발 디딜 틈은 순식간에 좁아지고 있다.

최근 폭락장에 제대로 불을 붙인 건 앤스로픽이 내놓은 ‘클로드 코워크’였다. 사용자 컴퓨터 안의 파일들을 알아서 분류하고, 보고서를 뚝딱 만들어낸 뒤 이메일까지 쏘아 보내는 이 도구에 최근에는 ‘법률 플러그인’까지 장착됐다. 계약서를 꼼꼼히 훑고 법률 문서 초안을 잡는 까다로운 작업조차 AI가 매끄럽게 해치우자, 톰슨로이터나 리걸줌 같은 굵직한 법률 데이터 기업들의 주가가 하루 만에 10% 넘게 고꾸라졌다. 불길은 금융과 일반 소프트웨어 전반으로 무섭게 번졌다. 페이팔(-20.3%), 익스피디아(-15.3%), 어도비(-7.3%), 세일즈포스(-6.9%) 등 분야를 가리지 않고 줄줄이 무너져 내렸고, 가트너나 S&P글로벌 같은 시장 분석 기관들마저 직격탄을 맞으며 S&P 소프트웨어 관련 지수에서만 단 하루 새 3000억 달러가 날아갔다. 소프트웨어 시장에 뭉칫돈을 대던 사모펀드들 역시 등골이 서늘해진 건 마찬가지다.

사실 이런 하향세는 업계 기저에 꽤 오래전부터 깔려있던 흐름이다. 굳이 비싼 돈을 주고 남의 소프트웨어를 가져다 쓸 바에야 자체적인 AI 에이전트를 구축해버리는 게 낫다는 인식이 팽배해지면서, 지난 1년간 주요 소프트웨어 주가는 이미 30~40%가량 속절없이 빠지고 있었다. 스티븐 유 블루 웨일 성장 펀드 최고투자책임자(CIO)가 “올해야말로 기업들이 AI의 승리자가 될지 아니면 처참한 희생양이 될지 판가름 나는 해”라며 거대한 지각변동을 경고한 것은 결코 과장이 아니다. AI가 달려가는 길목을 섣불리 막아서는 건 섶을 지고 불에 뛰어드는 것과 같다.

흥미로운 점은 소프트웨어 진영이 이 거대한 포식자에게 잡아먹히며 생존의 기로에 선 사이, 이 폭식의 판을 깔아준 하드웨어 인프라 쪽에서는 오히려 성장의 발목을 잡던 치명적인 약점들을 하나둘 지워버리고 있다는 거다.

가장 대표적인 아킬레스건이 바로 데이터센터가 끝없이 들이마시는 막대한 ‘물’이었다. 구글이나 아마존 같은 빅테크들이 지역사회의 거센 반발에 부딪혀 수자원 보호 대책을 해명하기 바쁜 와중에, AI 칩의 절대강자 엔비디아는 판을 완전히 뒤흔드는 선언을 던졌다. 최근 런던 기후 주간에 등판한 조시 파커 수석 지속가능성 책임자는 “데이터센터의 물 소비 문제는 이제 대체로 해결됐다”고 공언했다. 자동차 부동액과 비슷한 원리의 혼합 냉각액을 사용하는 그들의 차세대 AI 시스템은 화씨 113도(섭씨 45도)에 달하는 꽤 따뜻한 액체로도 시스템을 식힐 수 있다. 굳이 물과 전기를 퍼먹는 거대한 냉각기를 미친 듯이 돌리지 않아도, 혹은 기계식 냉각 설비 자체를 아예 떼어버려도 시스템이 무리 없이 돌아간다는 뜻이다.

업계의 반응은 뜨겁다. 마이크로소프트의 스티브 솔로몬 데이터센터 엔지니어링 부사장은 “모든 칩이 이런 방식이라면 그야말로 엄청난 사건”이라며, 애리조나처럼 푹푹 찌는 기후에서도 냉각기 없이 데이터센터를 굴릴 수 있을 거란 기대감을 내비쳤다.

물론 엔비디아의 이 장밋빛 청사진이 환경 파괴에 대한 완벽한 면죄부를 의미하진 않는다. 새로운 수랭식 시스템이 업계 표준으로 깔리기까지는 수년의 세월이 필요할 테고, 비용 문제 역시 아직 안갯속이다. 무엇보다 낡은 냉각 방식에 의존하는 수많은 기존 데이터센터들은 지금 이 순간에도 엄청난 양의 물을 집어삼키고 있다. 설령 냉각에 쓰이는 물을 획기적으로 줄인다 해도, AI 인프라를 돌리는 막대한 ‘전기’를 생산하는 과정에서 또다시 거대한 수자원이 증발한다는 딜레마는 여전히 남는다.

결국 AI라는 괴물의 행보는 묘한 역설을 향해 간다. 엔비디아의 기술은 확실히 AI 컴퓨팅의 단위당 효율을 극적으로 끌어올리겠지만, 파커 책임자 역시 시인했듯 AI가 짊어져야 할 작업량 자체는 결코 가벼워지지 않는다. 소프트웨어 시장을 박살 내며 끝없이 팽창하는 이 산업의 특성상, 획득한 인프라의 효율성은 결국 더 거대하고 촘촘한 AI 인프라를 지어 올리는 촉매제가 될 공산이 크다. 스스로 물리적 한계를 뚫어내며 덩치를 키워가는 AI가 과연 산업계 전반의 풍경을 어떻게 뒤집어 놓을지, 그 끝을 가늠하기엔 아직 이르다.