GPU가 딥러닝의 대규모 데이터를 처리하고 연산 속도를 높이는 데 유용하기 때문이다. 다만 하드웨어 구매, 클러스터 구축 등 ‘고비용’ 문제와, ‘고전력’으로 에너지 효율성이 떨어진다는 한계도 대두되고 있다.
이에 구독형 GPU 서비스(GPUaaS) 사업이 뜨고 있다. 구독형 GPU는 기업 고객이 AI 등 IT 서비스 구축에 필요한 GPU를 직접 구매하지 않고...
AP는 스마트폰에서 AI, 그래픽 및 연산처리를 담당해 스마트폰의 두뇌로 불린다.
이번 갤럭시 S25 시리즈에는 울트라뿐만 아니라 플러스와 기본 모델에도 스냅드래곤이 탑재될 가능성이 나온다. 엑시노스 발열 문제가 발목을 잡았다는 관측이다. 그동안 삼성전자는 최상위급인 울트라 모델엔 퀄컴 스냅드래곤을, 플러스와 일반 모델엔 국가별로 스냅드래곤과...
AI 연산의 핵심인 데이터센터는 ‘전기 먹는 하마’다. 국제에너지기구(IEA)에 따르면 데이터센터의 연간 전력 소모량은 2022년 기준 460테라와트시(TWh)다. 프랑스(425TWh), 독일(490TWh)이 1년간 사용하는 전력량과 맞먹는다. 2026년에는 620~1050TWh까지 늘어날 전망이다.
전 세계 데이터센터 8000여 개 중 3분의 1가량이 미국에 몰려 있다. 구글, 아마존, 마이크로소프트(MS)...
저장과 연산을 한 번에…'PIM' 연구 활발작년 아날로그 PIM '다이나플라지아' 선봬최근 차세대 칩 '다이아몬드'도 개발 성공
현재 시장은 고대역폭메모리(HBM)에 머물고 있는데, 전력 소모 문제에 부딪히고 있다. 온디바이스 인공지능(AI) 시대에서는 저전력이 중요하기 때문에 이를 위해선 결국 프로세싱인메모리(PIM)로 넘어가게 될 것이다.
8일 대전...
삼성전자는 5세대 HBM 제품인 HBM3E의 엔비디아 테스트를 진행 중인데, 발열과 전력소모 문제가 테스트의 핵심인 것으로 알려졌다.
HBM의 높은 전력 문제를 완화할 수 있는 제품으로 ‘저전력 D램’인 LPDDR이 떠오르고 있다. 메모리 D램 중 하나인 DDR의 ‘저전력’ 버전이다. 부피가 작고 발열에 예민한 제품에 들어간다. 이동성이 강조되는 스마트폰과 태블릿...
AI 기능을 구동하는 데에는 전력이 많이 들기 때문에 HBM보다 전력을 적게 사용하는 칩이나, 연산 속도가 더 빠른 칩 등이다.
안기현 한국반도체산업협회 전무는 “온디바이스 AI로 넘어가면 HBM이 아니라 GDDR을 사용해야 한다”며 “온디바이스AI냐, 클라우드 기반 AI냐에 따라 필요한 칩은 달라지기 때문에 기업들은 제품을 다각화할 필요가 있다”고 말했다....
2010년대로 접어들며 고성능 GPU(그래픽 연산장치) 컴퓨팅 시장의 성장과 함께 이를 지원할 수 있는 ‘고대역폭 니어 메모리’가 필요하다는 목소리가 시장에서 나오기 시작했다.
SK하이닉스는 이러한 요구에 부응하기 위해 TSV와 WLP 기술을 접목한 새로운 제품 개발에 착수했다. 기존 최고속 그래픽 D램 제품인 GDDR5보다 4배 이상 빠르다. 전력 소모량은 40...
하지만 정보의 양이 많고 복잡성을 갖는다는 점에서 딥러닝 모델의 연산에 많은 시간과 컴퓨팅 자원이 소모된다. 이에 3차원 의료영상을 2차원 의료영상으로 재구성하고, 재구성된 영상을 딥러닝 모델에 입력해 질환을 예측하거나 발병 여부를 확인할 수 있다.
뷰노는 해당 특허 기술이 반영된 뷰노메드 딥브레인의 미국 시장 진입을 가속할 계획이다. 앞서 뷰노는...
연산은 주로 데이터를 처리하거나, 문제를 해결하기 위한 알고리즘을 적용하기 위해 사용된다.
인공지능 기반 지능화 구축과정은 비즈니스 혁신을 위한 발판이다. 생성형 AI의 작동 원리는 크게 데이터 수집, 모델 학습, 훈련, 생성을 포함한 네 가지 단계로 이루어진다. 모든 훈련이 끝난 AI는 스스로 새로운 콘텐츠를 생성해 낸다. 이때, AI는 스스로 만들어 낼 수...
이들 GPU의 연산 능력을 모두 합치면 99.5페타플롭스(PF·초당 1000조 회 연산처리)에 달한다. 차세대 AI 기술 개발을 위한 데이터와 컴퓨팅 파워를 확보하기 위한 네이버의 선제적 투자로 볼 수 있다.
그러나 소버린 AI 확보를 위한 노력은 이에 그쳐서는 안 된다. 글로벌 AI 투자 경쟁은 갈수록 치열해지고 있기 때문이다. 맥킨지에 따르면 기업들의 AI 투자는 2017년...
온디바이스(on-Device) AI는 서버와의 통신 과정 없이 기기 내에서 AI가 연산을 처리하는 기술로, 클라우드를 통해 구동되는 AI에 비해 빠르게 작업을 처리할 수 있다. LG유플러스는 온디바이스 AI를 활용해 초개인화 콘텐츠 추천, 자막 및 음질 개선 등 IPTV 서비스를 고도화할 계획이다.
우선 LG유플러스는 AI를 활용해 고객에게 맞춤형 콘텐츠를 추천하는...
더욱 정교한 자율주행 기능을 위해서는 이 센서들을 수십 대씩 장착하면 되지만 이 경우 비용이 문제가 된다. 카메라에 비해 나머지 센서, 특히 라이더는 가격이 많이 내려왔음에도 여전히 부담스러운 수준이다.
스트라드비젼은 이러한 고민에 해결책을 제시하고 있다. 세 가지 센서 중 가장 저렴한 카메라만으로도 정확한 인지를 가능하게 만드는 것이다. 특히 개발...
김 대표는 다보스포럼의 공식 일정을 소화하는 가운데 글로벌 AI 기업인, 세계 각국 정부, 국제기구 등 여러 국제 인사들과 미팅을 진행하며 ‘인류가 AI 시대로 나아가기 위해 과도한 전력 소모와 이로 인한 탄소 배출 등의 문제를 어떻게 해결해 나갈 것인가’에 대한 의제를 제시하고 해당 사안에 대한 공론화에 나섰다.
특히 기존 기술에 기반한 AI 연산처리가 에너지...
디퍼아이에 따르면, 해당 기술을 적용한 NPU 칩은 그래픽처리장치(GPU)를 활용한 인공지능연산 대비 약 100배의 효율을 나타낼 수 있다.
이상헌 디퍼아이 대표이사는 “최근 인공지능의 산업적 확산과 함께 전 세계적으로 전력 사용 문제가 부각되고 있다”며 “이러한 상황에서 데이터센터와 같은 중앙집중적인 방식의 인공지능 서비스 구조 대신 엣지와 서버 간의...
광양 양극재 공장, 연산 9만 톤 생산공장 자동화 통해 인력 사용 최소화“배터리 시장 캐즘에도 설비 투자 지속”
포스코 그룹은 본원 사업인 철강 부문 외에도 미래 먹거리인 이차전지 소재부문에서도 생산력 확대를 통한 경쟁력 향상에 매진하고 있다. 글로벌 배터리 시장 캐즘(일시적 시장정체기)에도 설비 투자를 지속하는 등 철강과 함께 그룹의 주력...
빠른 연산 속도를 지닌 양자컴퓨터로도 해킹하기 어려운 암호 알고리즘이다. 기본적으로 사용하는 2차인증에 PQC가 함께 적용돼 계정 및 내부 정보를 강력하게 보호할 수 있다.
해외 클라우드 서비스 위주로 연동되는 기존 솔루션과는 달리 국내 서비스도 연동 가능하다. 외국뿐만 아니라 국내 정보 기술(IT) 환경도 고려해 제작됐다. 문제가 발생할 즉시 조치...
양자내성암호(Post Quantum Cryptography, PQC)는 슈퍼컴퓨터보다 연산 속도가 빠른 양자컴퓨터로도 해킹하기 어려운 암호 알고리즘이다. 현재 IT 신기술이 발전하고 슈퍼컴퓨터보다 월등히 빠른 양자컴퓨터가 개발되며 보안에 대한 위협이 증가하고 있는 상황에서 매우 각광받고 있다. 특히 미국과 유럽, 중국 등 해외에서는 양자 관련 기술에 막대한 투자를...
여러 연산을 동시에 처리하는지(멀티)의 차이다.
강영수 프로는 두 OS의 프로세스 차이를 ‘목적지로 가는 방식’에 비유했다.
“싱글 프로세스 기반인 오르세이는 여러 사람이 ‘한 대의 버스’를 타고 각각의 목적지로 이동하는 방식입니다. 각자 필요한 것을 다 같이 싣고 목적지를 향해 가다가 한 사람에게 문제가 발생하면 동승자 모두가 영향을 받게 되죠....
특히 생성형 AI 보급이 확대되면서 데이터센터는 단순 저장 기능을 넘어 천문학적인 연산을 수행하고 있으며, 이에 따라 서버에서 발생하는 발열 제어와 전력 효율 문제가 최대 화두로 떠올랐다.
AI 데이터센터에서 소비하는 전력량은 일반적인 데이터 센터보다 7배 가량 많은 것으로 추산된다. AI 데이터센터에서 사용되는 전력 상당수가 냉각용으로, 이는...
부지에 연산 1500톤 규모의 실리콘 음극재 생산공장을 착공했다.
OCI는 반도체용 폴리실리콘 제조 과정에서 생성되는 초고순도 삼염화실란(TCS)을 원재료로 사용해 효율성을 높이고, 파이프라인을 통해 특수소재를 넥세온에 공급함으로써 탄소 배출을 최소화할 계획이다.
설비 면에서도 안전 문제가 발생하면 신속하게 대응할 수 있는 첨단 장치를 도입해 생산...