AI인프라 — 관련 콘텐츠 11건

KAIST가 세계 최초로 규명한 AI 에이전트 숨은 전력 비용 — 에이전틱 AI 개발자 대응 가이드

KAIST 연구팀이 AI 에이전트 작업 1건당 소비되는 숨은 전력 비용을 세계 최초로 정량화했다. 대기 전력·메모리 대역폭·냉각 오버헤드를 포함한 실제 에이전틱 AI 에너지 비용과, 개발자가 프롬프트 캐싱·소형 모델 라우팅·배치 API로 전력 효율을 높이는 실전 전략을 정리했다. LLM API 비용 최적화와 에너지 효율 최적화가 같은 방향임을 보여준다.

SK가 한국 AI 인프라 81%를 담당하는 이유 — 메모리 주도권·클라우드 통합, 동남아 진출 분석

한국 AI 연산 인프라의 81%를 SK 그룹이 담당한다는 분석이 나왔다. SK하이닉스 HBM3E·HBM4가 엔비디아 GPU 공급망을 주도하고, SK텔레콤이 국내 AI 클라우드·데이터센터를 운영하며 동남아 시장 진출을 추진한다. 개발자 관점에서 국내 GPU 클라우드 선택지 변화, HBM 공급 상황이 클라우드 비용에 미치는 영향, 동남아 다국어 AI 서비스 수요 확대까지 정리했다.

KT클라우드, 국내 첫 공공 NPU 서버 출시 — 리벨리온 ATOM Plus 적용 국산 NPUaaS

KT클라우드가 리벨리온의 ATOM Plus NPU를 적용한 공공 전용 NPU 서버를 출시하며 국내 CSP 중 처음으로 CSAP 인증을 받은 국산 NPUaaS를 선보였다. 정부 공공 AX 사업과 국가 AI 컴퓨팅 인프라 확충으로 국산 AI 반도체 수요가 커지는 가운데, 리벨리온·퓨리오사AI 등 국산 NPU 생태계의 기술 구조와 개발자가 국산 NPU 도입 시 따져야 할 비용·성능·생태계 현실을 정리했다.

GPU 클라우드 가격 비교 — AWS·구글·전용 호스팅 시간당 비용과 손익분기

AI 워크로드용 GPU를 빌리는 세 경로(하이퍼스케일러·전용 GPU 클라우드·스팟)의 시간당 비용 구조를 비교하고, LLM API와 자체 추론 서버의 손익분기를 계산하는 법을 정리한다. AWS·구글 클라우드와 Lambda·RunPod 같은 전용 GPU 클라우드의 차이, 스토리지·데이터 전송비 같은 숨은 비용, 1인 개발자가 API로 시작해 자체 추론으로 옮기는 판단 기준까지 다룬다.

삼성전자 HBM4E 세계 최초 샘플 출하 — 전작 대비 20% 빠른 속도, AI 메모리 경쟁

삼성전자가 세계 최초로 HBM4E 12단 샘플을 출하했다. 핀당 16Gbps(전작 대비 20% 향상), 대역폭 3.6TB/s, 용량 48GB(30% 증가), 에너지 효율 16% 개선. HBM4 양산 3개월 만에 차세대 HBM4E를 선보인 삼성전자의 AI 메모리 전략, SK하이닉스와의 경쟁 구도, AI 데이터센터 전력 효율, 개발자·AI 인프라 엔지니어가 봐야 할 의미까지.

퓨리오사AI·브로드컴 2나노 AI 칩 공동 개발 완전 분석 — 메타 거절 이후, RNGD 성과, 3세대 아키텍처

2025년 3월 퓨리오사AI(FuriosaAI)는 메타(Meta)의 $8억(약 1조 1천억 원) 인수 제안 을 거절했다. 가격 문제가 아니라 인수 후 사업 방향과 조직 구조에 대한 이견이었다. 퓨리오사AI는 2017년 백준호 대표가 삼성전자와 AMD 경력을 바탕으로 설립한 AI 반도체 팹리스 스타트업이다. 임직원 약 140명의 90% 이상이 개발자이며, 구글·퀄컴·삼성 출신 엔지니어들로 구성됐다.

xAI 콜로서스 완전 분석 — GPU 20만 장을 122일 만에 구축한 방법과 AI 인프라 전쟁의 새 기준

xAI가 2024년 7월 메인 GPU 클러스터인 콜로서스(Colossus) 를 가동했다. 통상 4년, 최초 예상 24개월 걸리는 슈퍼컴퓨터 구축을 122일 만에 끝냈다. 10만 장의 NVIDIA GPU를 하나의 클러스터에 묶은 세계 최대 규모였다. 이후 92일 만에 20만 장으로 2배 확장했다. 현재 콜로서스에는 H100 15만 장, H200 5만 장, GB200 3만 장이 투입됐다. 앤트로픽도 콜로서스 컴퓨트를 사용하기로 했다. xAI는 콜로서스 2에 55만 장, 약 180억 달러를 투...

NHN클라우드 팩토리X 완전 분석 — B200 7,656장 AI 클러스터, 개발자가 알아야 할 것

NHN클라우드가 2026년 5월 26일 서울에서 AI 풀스택 브랜드 NHN FactoryX(팩토리X) 를 공개했다. 이름처럼 인프라부터 플랫폼, 서비스까지 AI 공급망 전체를 수직통합하겠다는 선언이다. 팩토리X는 NHN클라우드가 AI 관련 제품과 서비스를 하나의 브랜드로 묶은 것이다. 단일 신제품이 아니라 기존에 운영하던 GPU 클러스터, AI 개발 플랫폼, 신규 에이전트 서비스를 통합 발표한 형태다.

SK하이닉스 iHBM 발표 — AI 데이터센터에서 발열·전력·냉각이 GPU만큼 중요해진 이유

SK하이닉스가 발열을 줄인 신형 HBM인 iHBM 을 공개했다. 같은 날 국내 뉴스에선 "GPU만으론 안 된다 — AI 데이터센터 경쟁력, 전력·냉각에 달려"라는 분석 기사가 동시에 등장했다. HBM(High Bandwidth Memory)은 DRAM 다이를 수직으로 적층해 초광대역 데이터 전송을 구현한 메모리다. NVIDIA H100·H200, AMD MI300X 등 현재 주요 AI 가속기에 탑재되어 있다.

메타 AMD 최대 $1000억 칩 딜 — NVIDIA 독점 균열과 AI 인프라 전쟁의 새 국면

2026년 2월, 메타(Meta)는 AMD와 최대 $1000억 달러 규모의 AI 칩 공급 계약을 체결했다. AI 인프라 역사에서 단일 업체 간 칩 조달 계약으로는 최대 규모 수준이다. 계약의 구조는 단순한 구매 이상이다. 5년에 걸쳐 6기가와트(GW) 규모의 AMD AI 컴퓨팅 인프라를 조달하고, 메타는 AMD 주식에 대한 성과 연동 워런트까지 받는다. 재무적 파트너십의 성격을 띤다. 이 딜의 기술적 핵심은 AMD MI540 GPU와 최신 세대 CPU의 조합이다. GPU가 AI 학습을 담...

MCP 97M 설치 돌파 — 에이전트 AI의 표준이 된 Model Context Protocol 생태계

한 줄 요약: Anthropic이 만든 Model Context Protocol(MCP)이 2026년 3월 25일 기준 누적 97M(9,700만) 설치 를 돌파했다. 16개월 만에 OpenAI, Google, Mistral까지 전원 채택 — MCP는 더 이상 실험이 아니라 에이전트 AI의 기반 인프라다. 2026년 3월 25일, MCP 공식 npm 패키지와 Python SDK의 누적 설치 수가 9,700만 건을 넘었다.