AI칩 격전지 바뀐다...모델 훈련에서 추론으로

AI칩 격전지 바뀐다...모델 훈련에서 추론으로 - 디지털투데이 (DigitalToday) [디지털투데이 황치규 기자] AI칩 시장에서 업체 간 경쟁의 무게 중심이 AI 모델 훈련에서 훈련된 모델을 운영하는 쪽으로 바뀌고 있다.AI 산업이 진화하고 기업과 개인 사용자들이 생성형 AI 툴을 www.digitaltoday.co.kr 엔비디아 지난해 매출 중 추론 비중 40% 이상 차지 엔비디아 데이터센터 칩 매출 구성은 AI 모델 운영, 이른바 추론(inference) 비중이 커지는 쪽으로 변화가 진행 중심을 보여주는 첫 중요 지표로 추론용 칩이 엔비디아 입지를 위협한다는 일부 우려를 완화시켰다고 WSJ은 전했다. AI 추론은 훈련에 비해 엔비디아 고가 H100 AI 칩을 굳이 사용하지 않고 상대적으로 덜 ..

2024.02.27