2026년 9월, SK하이닉스는 AI 인프라 행사에 메모리 칩만 들고 가지 않았다. 함께 소개한 것 가운데 SALT-KV라는 소프트웨어가 있었다. AI가 답을 만들어 내는 동안 다시 쓰는 데이터를 HBM·D램·SSD 사이에 나누어 배치하는 기술이다. 회사는 메모리 안에서 연산하는 기술과 이를 활용한 카드·서버도 선보였다.[1]
메모리 회사가 데이터를 어디에 둘지까지 고민하는 데는 이유가 있다. 비싸고 빠른 메모리를 늘리는 방법이 있고, 꼭 필요한 데이터만 그곳에 두는 방법이 있다. 둘은 다른 해법이다. AI 서비스가 사려는 것은 칩의 사양표가 아니다. 정해진 비용과 시간 안에 결과를 내는 시스템이다.
AI 호황에서 한국 기업이 얼마나 팔 수 있느냐는 물론 중요한 질문이다. 그에 못지않은 질문이 하나 더 있다. 다음 제품을 설계할 때 한국 기업이 어느 결정부터 참여하느냐다. 주문받은 규격을 잘 생산하는 기업과 고객과 함께 그 규격을 정하는 기업은 시장에서 서는 자리가 다르다.
◇SK하이닉스와 삼성은 다른 길로 설계에 다가선다
SK하이닉스는 4월 TSMC 기술 심포지엄에서도 표준형 HBM을 넘어 고객별 요구를 반영하겠다는 방향을 설명했다. HBM4의 베이스 다이에 TSMC의 로직 공정을 활용하고, AI 시스템의 설계 단계부터 참여하겠다는 구상이다.[2] 베이스 다이는 여러 층으로 쌓은 메모리의 맨 아래에 놓여 GPU와 연결되는 칩이다. 이는 회사가 밝힌 기술 방향이다. 모든 고객과 제품에서 성과를 거뒀다는 증거와는 구분된다.
두 회사의 협력은 2024년에 이미 시작됐다. 그해 발표한 협약에 HBM4 개발과 첨단 패키징 협력이 담겨 있었다.[3] 메모리와 연산 칩의 연결을 각 부품을 따로 완성한 뒤로 미루지 않겠다는 것이다.
삼성에는 회사 안에서 기술을 결합하는 경로가 있다. 금융위원회는 2월 평택 P5 지원을 발표하면서 이 공장에서 메모리 제조와 파운드리 공정을 함께 수행할 계획이라고 설명했다. 고객별 요구에 따라 메모리와 연산 칩을 잇는 로직 다이가 달라지므로, HBM4 이후에는 파운드리 공정이 더 중요해진다는 설명도 붙였다.[4] 정부가 밝힌 사업 구상이다. 실제 수율과 고객 채택의 성과를 확인한 자료는 아니다.
두 방식이 푸는 조정 문제는 다르다. 외부 전문기업과 협력하면 각자의 기술을 활용할 수 있는 대신 일정과 책임을 기업 사이에서 맞춰야 한다. 한 회사 안에서 결합하면 조정할 범위가 넓어지고, 각 공정의 경쟁력도 함께 갖춰야 한다. 어느 쪽이 우월한지는 회사가 가진 사업의 수로 정해지지 않는다. 기준은 고객이 요구한 성능과 납기, 비용을 실제로 맞추느냐다.
한국 기업이 받아 든 과제는 두 가지다. 첫째는 자사가 잘하는 공정과 메모리 설계 능력을 지키면서 고객의 연산 칩과 패키징 방식에 더 일찍 맞추는 일이다. 둘째는 그 고객 한 곳에 너무 깊이 묶였을 때 생기는 위험을 관리하는 일이다.
◇맞춤형 주문은 협상력이 될까, 짐이 될까
맞춤형 제품은 고객의 문제를 깊이 이해해야 만들 수 있다. 그 과정에서 얻은 지식과 신뢰는 쉽게 대체하기 어려운 경쟁력이 될 수 있다. 그러나 다른 고객에게 그대로 팔기 어려운 제품이라면, 주문이 줄었을 때 위험도 공급업체에 더 크게 남는다. 고객과 가까워진다고 협상력이 저절로 생기지는 않는다.
한 고객을 위해 설계 인력을 투입하고 생산능력을 확보했는데, 고객이 다음 세대 제품의 규격이나 출시 시기를 바꿨다고 해 보자. 특정 계약에서 확인한 사건이 아니라 맞춤형 거래가 풀어야 할 문제다. 이때 따질 것은 세 가지다. 개발비를 누가 부담하는지, 변경으로 생긴 비용을 어떻게 나누는지, 예약한 물량을 취소하면 어떤 책임을 지는지다.
공개된 거래 가운데 단서가 되는 것이 있다. 앰코는 7월 엔비디아와 15억 달러 규모의 다년간 첨단 패키징·개발 협력을 발표했다. 발표에는 미국 애리조나 생산능력 확대를 뒷받침할 엔비디아의 선급금이 포함돼 있다.[5] 회사 설명으로는 선급금은 미국 생산능력 확대를 위한 것이고, 협력 자체는 아시아와 미국에 걸친다. 한국 공장에 대한 별도 약속은 발표에 없다. 계약 전체 금액이 이미 지급된 것도 아니다. 눈여겨볼 점은 고객이 생산능력 확보에 자금을 보태는 구조가 공개됐다는 사실이다.
모든 메모리 업체가 같은 조건을 얻을 수는 없다. 특정 기업의 비공개 계약이 불리하다고 판단할 근거도 없다. NEXT는 기업의 전략을 평가할 때 출하량과 점유율 못지않게, 전용 투자와 수요 변경의 부담을 어떻게 나누는지가 중요하다고 본다. 설계 참여가 늘었는데 위험은 공급업체에만 쌓인다면 기술적 진전과 사업적 성과가 어긋날 수 있다.
◇칩을 더 쓰지 않고도 AI를 더 쓸 수 있다면
생성형 AI는 답을 만드는 과정에서 이전 계산의 일부를 저장해 다시 쓴다. 이를 위한 KV 캐시를 어떤 메모리와 저장장치에 둘지가 성능과 비용에 영향을 준다. SK하이닉스가 소개한 SALT-KV도 이 배치를 다루는 기술이다.[1]
회사의 시연만으로 실제 서비스에서 비용을 얼마나 줄였는지 단정할 수는 없다. 달라진 점은 분명하다. 메모리 공급사가 고객의 시스템 비용을 낮추는 소프트웨어까지 내놓고 있다. 고객에게 필요한 것이 무조건 가장 비싼 메모리를 더 사는 일은 아니라는 점을 공급사도 제품 개발에 반영하는 것이다.
이런 기술이 칩 수요에 주는 효과는 한 방향이 아닐 수 있다. 같은 서비스를 적은 자원으로 제공하면 요청 한 건에 필요한 고가 메모리는 줄 수 있다. 비용이 낮아져 사용자가 늘거나 더 긴 작업을 맡기면 전체 수요는 커질 수 있다. 어느 쪽이 얼마나 큰지는 실제 이용과 가격을 보아야 안다. 효율 개선을 곧바로 메모리 수요 감소로도, 무한 성장으로도 번역하기 어렵다.
한국 기업이 확보할 만한 능력도 여기서 나온다. 고객의 사용 환경에서 자기 제품과 소프트웨어를 함께 시험하고, 지연시간·전력·전체 비용을 비교해 보여 주는 능력이다. 칩 하나의 속도를 설명하는 데서 그치지 않고 어떤 작업에서 어떤 조합이 유리한지 입증하는 일이다. 자사에 불리한 조건까지 드러내야 고객도 그 비교를 믿는다.
◇시연이 주문으로 이어지기까지
설계에 참여했다는 발표 다음에는 고객의 채택이라는 단계가 남는다. 메모리 계층을 달리 쓰는 새 기술을 넣는다면 칩이 연결되는지만 확인해서는 충분하지 않다. 고객은 데이터를 옮기는 소프트웨어가 작동하는지, 여러 작업을 동시에 처리할 때도 성능이 유지되는지, 오류가 나면 누가 고칠지까지 검증한다. 이것이 확인되지 않으면 시연의 성능이 좋아도 고객은 기존 구성을 바꾸기 어렵다.
가격 비교도 칩 구매비에서 끝나지 않는다. 기존 프로그램을 옮기고 시험하는 비용, 운영 인력이 새 환경을 배우는 시간, 장애 대응이 더해진다. 새 제품이 연산이나 전력 비용을 줄이더라도 전환 비용을 회수하지 못하는 고객에게는 채택할 이유가 약하다. 반대로 특정 작업에서 그 비용을 충분히 만회한다면 작게 도입해 실제 운영 결과를 보고 넓혀 갈 수 있다.
한국 공급자가 설계 초기에 참여할 이유가 여기에도 있다. 뒤늦게 완성품을 제안하면 고객이 이미 정한 소프트웨어와 시스템을 바꾸는 부담을 진다. 앞에서 함께 설계하면 그 변경 비용을 줄일 여지가 생긴다. 다만 연산 칩 업체와 소프트웨어 개발자, 실제 운영 고객이 함께 움직여야 하는 일이어서 메모리 회사 혼자 정할 수는 없다. 설계 참여가 사업으로 이어지는 것은 공동 시험 도구와 기술 지원에 투자하고, 고객의 반복 구매로 효과가 확인된 뒤다.
◇모두 직접 만들 필요는 없다
설계에 더 깊이 참여하자는 말은 GPU부터 운영체제까지 한 회사가 모두 소유하자는 얘기가 아니다. 모든 영역에 투자하면 기존 강점에 쓸 자원이 줄어든다. 가려낼 것은 협력으로 배울 수 있는 부분과 반드시 회사 안에 남길 지식이다.
판단 기준은 하나의 질문으로 줄일 수 있다. 고객이 제품을 바꾸더라도 회사 안에 무엇이 남는가. 여러 고객에게 적용할 수 있는 설계 방법, 시험 도구, 오류 분석 능력은 다음 거래에서도 쓰인다. 한 고객의 규격에만 맞춘 작업이라면 그만큼 계약에서 비용 회수와 재사용 권리를 신중히 정하는 일이 중요해진다. 공동개발의 지식재산을 누가 어떤 범위에서 쓸 수 있는지도 생산 물량 못지않게 중요하다.
한국 안의 AI 수요도 이 관점에서 볼 수 있다. 산업부가 6월 발표한 K-온디바이스 AI 사업은 자동차, 가전·사물인터넷, 기계·로봇, 방산 등을 대상으로 칩과 모듈, 소프트웨어를 함께 개발하는 방향을 제시했다.[6] 사업 계획이 있다고 국산 제품의 경쟁력이나 실제 채택이 증명되지는 않는다. 그래도 국내 수요기업과 반도체 기업이 완제품의 조건을 놓고 함께 개발하는 장은 될 수 있다.
수요기업이 국산이라는 이유만으로 성능이 떨어지는 칩을 써야 한다면 오래가기 어렵다. 처음에는 실제 작업 하나를 정해 기존 제품과 비교하는 편이 낫다. 필요한 정확도와 반응속도를 유지하면서 전력과 비용을 얼마나 줄이는지, 기존 소프트웨어를 옮기는 비용까지 넣어 따지는 방식이다. 개발 성공의 기준도 시제품 시연이 아니라 재구매와 현장 유지보수에 둘 때 의미가 있다.
◇공장은 돌려도 키울 수는 없는 곳
기업이 고객과 협상하는 조건 밖에는 정부가 정하는 조건도 있다. 미국 상무부 산업안보국(BIS)은 2025년 8월 중국 내 외국계 반도체 공장의 일부 수출허가 면제를 없앤다고 발표하고, 연방관보 게재 후 120일 안에 허가를 신청해 받도록 했다. 당시 밝힌 방향은 기존 공장 운영을 위한 허가는 내주되, 생산능력 확대나 기술 고도화를 위한 허가는 내주지 않겠다는 것이었다.[7] 발표문에 대상 기업의 이름은 없다. 여기서는 당시 정책의 구분을 보여 주는 사례로 읽는다. 개별 공장이 2026년에 받은 허가의 범위까지 이 발표만으로 판정할 수는 없다.
이 구분은 투자 전략에 질문을 던진다. 지금 공장을 돌릴 수 있는가와 다음 세대 제품으로 바꿀 수 있는가는 별개다. 현재 매출이 잘 나온다는 이유만으로 그 거점에 장기 개발과 후속 투자를 계속 모아도 된다는 보장은 없다. 한국 기업의 계산에는 생산비와 고객과의 거리뿐 아니라, 장비 교체와 공정 전환이 어떤 정책 조건에 달려 있는지도 들어간다.
대응을 모든 공정의 국내 이전으로 단순화하면 해외 고객과 인재에게 접근하는 이점까지 잃을 수 있다. 다른 접근도 가능하다. 기업이 국내에 우선 남길 역량을 정하고, 해외 거점이 그 역량을 보완하도록 역할을 나누는 방식이다. 판단 근거는 두 가지다. 공동개발로 얻은 시험 방법과 설계 지식을 국내에서도 활용할 수 있는지, 특정 지역의 조건이 달라졌을 때 다른 거점에서 다음 제품을 개발할 수 있는지다. 정부가 시장 접근과 허가 조건을 협의하는 동안, 기업은 그 협의가 기대대로 풀리지 않는 경우에도 개발을 이어갈 방안을 갖춰 둘 몫을 진다.
한국 메모리 기업은 AI 시스템의 설계에 더 깊이 참여할 수 있고, 이미 그 방향으로 움직이고 있다. SK하이닉스는 외부 협력으로, 삼성은 내부 결합으로 그 가능성을 시험하는 중이다. 앞으로 확인할 성과는 세 가지다. 고객의 설계에 얼마나 일찍 참여했는지, 함께 만든 지식을 다음 제품에도 쓸 수 있는지, 개발과 생산의 부담을 어떤 계약으로 나눴는지다.
NEXT는 기업이 모든 기술을 소유하려 하기보다 고객이 다시 찾을 설계·검증 능력에 투자하고, 국가는 그 능력이 국내에서도 이어질 연구 기반과 국제 협력의 조건을 마련하는 쪽이 옳다고 본다. 메모리를 잘 만드는 강점을 고객이 다음 시스템을 결정하는 단계까지 가져가는 것이 한국에 열려 있는 길이다.
출처
[1] SK하이닉스 뉴스룸, AI Infra Summit 2026 참가·SALT-KV 및 PIM 소개, 2026.9.17.. ↩
[2] SK하이닉스 뉴스룸, TSMC Technology Symposium 2026 발표, 2026.4.23.. ↩
[3] SK hynix, TSMC와 HBM 기술 협력 발표, 2024.4.19.. ↩
[4] 금융위원회, 국민성장펀드 평택 P5 지원 발표: 메모리·파운드리 통합 구상, 2026.2.26. ↩
[5] Amkor Technology, NVIDIA와 첨단 패키징 협력 발표, 2026.7.23.. ↩
[6] 산업통상부, K-온디바이스 AI 반도체 기술개발 사업 발표, 2026.6.2.. ↩
[7] 미국 BIS, 중국 내 외국계 반도체 공장의 VEU 관련 정책 변경 발표, 2025.8.29. ↩