"케이블 한 가닥도 초정밀 과학의 정수"…살벌한 AI 경쟁

AI라는 것이 정말 무한대로 확장하는 분야인것 같다.

기사의 마지막 부분의 내용이 꽤나 의미 심장한것 같다

​

​

국내 기업도 좋지만, 당장은 유리기판과의 연결고리도 있는 코닝만 생각나는데... (어쩜 이렇게 대부분 우상향? 중인지,,,참 비교된다)

분명히 시세를 낸 상태일 수도 있겠지만, 해외 기업도 찾아봐야 되겠다.

​

마소는 케이블에 관심을 가지는 중. (AI시대 핵심 기술)

​

​

AI 케이블

​

• 예를 들어 킹비디아는 GPU수십장을 연결한 '서버랙'을 고객에게 판매

• GPU & GPU, 서버랙 & 서버랙 사이에는 무수한 케이블 (NV링크) & 스위치 (NV스위치)가 연결, 이것을 통틀어 '인터커넥트'라고 칭함

• 이 장치를 통해서 GPU끼리 서로 의사소통을 하며, 초대형 AI를 빠르게 훈련시킴, 컴퓨터 칩만큼 중요한 핵심기술임

• 하이퍼스케일러 데이터센터는 내부에 1-2만개의 GPU가 탑재, 각각의 데이터센터는 케이블로 연결

​

데이터센터 끌어와 초대형 모델 훈련한다

​

• AI모델 크기는 점점 증가, 컴퓨팅 파워도 기하급수적으로 증가

• Ex.구글은 '제미나이 울트라' 모델을 훈련 '분산데이터훈련'기법을 선보임. (분산훈련 자체는 기존에도 존재함)

• AI훈련에 필요한 데이터셋을 각 컴퓨터 칩의 통신노드에 분할 전송하여 동시다발적으로 훈련하는 것. 분산데이터 훈련은 그 규모를 데이터센터 단위로 확대한 것. 미국 전역에 깔린 구글 데이터센터들이 죄다 모델 학습에 투입된 것,

• MS도 분산 훈련에 도전 하려고 하는중, 오픈 AI와 MS는 최대 30만장의 GPU를 분산 훈련해 차세대 모델을 훈련할 예정

• 2만여대의 GPU가 탑재된 데이터건물 15동을 동원해야 하며, 비용, 전력, 물리적 거리마저 어마어머할 것임

• AI훈련에 가장 중요한 것은 데이터 전송속도와 용량. 00년초 초고속 인터넷 시대를 맞이하여 구리케이블 => 광섬유 케이블로 도약

• 덕분에 데이터센터는 엄청난 속도로 고용량 데이터가 전송 가능, 분산 데이터센터 훈련을 가능하게 하려면, 더 빠른 속도가 필요

​

'30만장 분산 훈련'하려면 광섬유 속도 뛰어넘어야

​

• MS가 'GPU 30만장 분산 훈련' 목표를 통과하려면 케이블 혁신이 필요. MS는 2년전 '루메니시티'를 인수

• 동사는 차세대 광섬유 케이블의 한 종류인 HCF(Hollow Core Fiber·중공 섬유) 케이블을 개발중

• HCF는 90년대 제안되어진 광섬유이지만, 기술적 문제로 실현되지 못함.

• HCF 케이블은 실리카 소재 케이블 내부에 마이크로미터 (UM) 단위 빈 구멍을 낸 케이블임.

• 광섬유는 실리카 케이블 내부에 들어간 광섬유가 빛을 전달, HCF는 그 자리에 공기 혹은 진공상태만 존재함

• 광자는 유리보다 공기 중에서 더 빨리 이동, HCF의 지연 수준은 일반 광케이블보다 50% 더 낮음

• 거리에 따른 빛 신호의 상실, 디스퍼션도(빛이 서로 다른 파장의 빛으로 굴절, 신호에 혼란을 주는 현상) 훨씬 덜하다고 함.

• 즉. 초장거리 초고속 통신에 이상적, 멀리 떨어진 데이터 센터 사이를 이어줄 'AI 신경망'이 될 잠재력이 있음.

• HCF 케이블 대량 생산에는 기술적 허들이 높음. 30년간 연구 진행하던 루메니시티는 MS인수 이후 HCF양산 공장 설립

• 사티아 나델리 MS대표는 연례 행사에서 HCF언급 '이 획기적인(Breakthrough) 기술이 실제로 작동하는 것을 보니 흥분된다"고 기대감을 전달

​

통신선 하나에도 과학의 정수가…피 튀기는 AI 경쟁의 한 단면일 뿐

​

• 통신선 역시 분산데이터 훈련을 이루는 요소 중 하나임. 케이블만으로는 모든 병목과 기술장벽이 사라지는 것은 아님

• HCF케이블과 다른 '일반' 통신 장비 사이의 호환 문제 해결이 필요,

• 30만장 넘는 GPU를 100% 구동하려면 첨예한 모니터링 시스템과 장애 격리 체계를 만들어야 함

• 수십년간 검색엔진 & 유투브등 인터넷 트래픽 관리 서비스를 제공하며 경험을 축적한 구글이 다른 빅테크에 비해 유리함

• AI모델 크기 증가 => 컴퓨팅 파워도 증가 => 칩 성능 향상에는 어느 정도 한계가 있음 => 모든 과학/공학적 수단 강구가 필요

https://n.news.naver.com/mnews/hotissue/article/277/0005501608?cid=2001402

​