디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

GPT5 H100 5만개완료 GPT6 H100 20만개학습중모바일에서 작성

ㅇㅇ(45.87) 2024.03.29 01:16:23
조회 44 추천 0 댓글 0
														
7cea8177b38161fe3fef98a518d60403c6a287ad7ecdf63853

마소 엔지니어에게 GPT-6 트레이닝을 위한 클러스터 프로젝트에 대해 들었다.

그는 서로 다른 지역에 있는 GPU들에 인피니밴드 연결을 지원하는게 얼마나 어려운 일인지에 대해 자주 불평하였다.


나: 왜 클러스터들을 동일한 지역에 모아두지 않은거야?


걔: 아 우리도 처음에 그렇게 함. 근데 한 지역(state)에 H100을 10만개 이상 놓으면 파워그리드 전체가 다운돼 버리더라고



한 지역에서 H100 10만개 이상을 쓰지 못해 여러 지역을 연결해서 클러스터를 구성 중이란걸 보면

미국 여러 지역에 수십만개씩 연결해서 트레이닝 중인가봄...



참고로 H100 가격은 하나에 6천만원 정도ㅋㅋ



추천 비추천

0

고정닉 0

0

원본 첨부파일 1

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 연인과 헤어지고 뒤끝 작렬할 것 같은 스타는? 운영자 24/04/22 - -
공지 컴퓨터 본체 갤러리 이용 안내 [70] 운영자 22.12.13 44039 77
4440524 143.244담당일진입갤VLGPFDU ㅇㅇ(149.40) 14:14 1 0
4440523 릴간이 지금 몇년째 이지랄 중이라는데 참 대단하네 ㅇㅇ(143.244) 14:13 1 0
4440522 릴간이 지금 초과근무 하는 중이라 못오는거다 ㅇㅇ(143.244) 14:13 1 0
4440521 릴간이 지금 개처맞을 때 내가 껴든거 존나 짜증날걸 ㅇㅇ ㅇㅇ(143.244) 14:13 3 0
4440520 143.244다중이 느금마 ㅋㅋㅋㅋNGEOLIH ㅇㅇ(149.40) 14:13 3 0
4440519 릴간이 지금 “행세” 뛰러 가서 바쁜가 댓글도 안 달아주네 ㅇㅇ(143.244) 14:13 3 0
4440518 릴간이 주인 올 때까지 잘 기다리고 있었네?ㅋ ㅇㅇ(143.244) 14:13 3 0
4440517 143.244 애미 ㅋㅋㅋㅋRGCRNHS ㅇㅇ(149.40) 14:13 3 0
4440516 릴간이 주갤하던데 화력 지원해달라고 똥튀기들 데려온듯 ㅋㅋ ㅇㅇ(143.244) 14:13 3 0
4440515 143.244 애미 ㅋㅋㅋㅋJHBEDJW ㅇㅇ(149.40) 14:13 4 0
4440514 143.244 못생긴다중이 월모닝꿀잠중ㅋㅋIUUFASL ㅇㅇ(149.40) 14:13 3 0
4440513 릴간이 존나역겹고웃긴게 ㅇㅇ(143.244) 14:13 3 0
4440512 릴간이 존나 웃긴거 하나 더... ㅇㅇ(143.244) 14:13 3 0
4440510 릴간이 존경한다 저런 좆병신련 참교육 시켜줘서 ㅇㅇ(143.244) 14:12 3 0
4440509 투범이는 먼가 정겨움 19년도 수갤에서도 봣는데 글 볼때마다 투표 거부하 컴갤러(110.47) 14:12 3 0
4440508 릴간이 조롱 뜻도 모르고 쓰다가 약자인거 셀프 인증했네 ㅋㅋㅋㅋ ㅇㅇ(143.244) 14:12 4 0
4440507 143.244담당일진입갤XIRGUCL ㅇㅇ(149.40) 14:12 3 0
4440506 전두환 각하 말씀) 근데 이대남들 투표율은 왜 꼴지인거야? 컴갤러(110.47) 14:12 3 0
4440505 143.244 못생긴다중이 월모닝꿀잠중ㅋㅋYGKBDUU ㅇㅇ(149.40) 14:12 4 0
4440504 릴간이 정병이랑도 싸우네ㅋㅋ ㅇㅇ(143.244) 14:12 4 0
4440503 릴간이 제대로 겁먹었네 ㅋㅋ ㅇㅇ(143.244) 14:12 4 0
4440502 143.244다중이 느금마 ㅋㅋㅋㅋQZQZHZQ ㅇㅇ(149.40) 14:12 4 0
4440501 릴간이 전략바꿨네~ ㅇㅇ(143.244) 14:12 4 0
4440500 릴간이 전라도 새끼였네 ㅋㅋㅋ ㅇㅇ(143.244) 14:12 4 0
4440499 투표율 30%인데도 아무도 누가 뭐라하지 않음ㅋㅋ 개꿀 ^^ 컴갤러(110.47) 14:12 5 0
4440498 형들이 그렇게 컴 잘본다며??.... 좀 봐줄수 있엉?! [1] 컴갤러(118.91) 14:12 18 1
4440497 143.244담당일진입갤NSFVHHC ㅇㅇ(149.40) 14:12 4 0
4440496 릴간이 저거 애미 듸지듯이 패배 ㅋㅋ 나의 승리~ ㅇㅇ(143.244) 14:12 4 0
4440495 투표가 뭐 별건가... 끝나면 꿀잼 떡밥 생기니까 하지... 라고 생각하 컴갤러(110.47) 14:11 4 0
4440494 143.244 못생긴다중이 월모닝꿀잠중ㅋㅋUIHZUVW ㅇㅇ(149.40) 14:11 4 0
4440493 143.244다중이 느금마 ㅋㅋㅋㅋKDRLOOM ㅇㅇ(149.40) 14:11 4 0
4440492 릴간이 장애인이라 갖고 놀기 재밌음 ㅋ ㅇㅇ(143.244) 14:11 4 0
4440491 143.244 애미 ㅋㅋㅋㅋQYIHRKQ ㅇㅇ(149.40) 14:11 4 0
4440490 릴간이 잠도 못자고 울먹울먹 ㅠㅠ ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ ㅇㅇ(143.244) 14:11 4 0
4440489 릴간이 잠깐 안보이길래 ㅇㅇ(143.244) 14:11 4 0
4440488 릴간이 잘했어! 먹이! ㅇㅇ(143.244) 14:11 4 0
4440487 사 회 주 의 에 서 보 는 자 본 은 공 적 자 금 에 가 깝 고 , 컴갤러(110.47) 14:11 5 0
4440486 투표가 범죄니까 마피아 할때 잠수타지말고 투표 거부하라고 씨발년들아!! 컴갤러(110.47) 14:11 4 0
4440485 릴간이 잘한다 재승이 후두려패는거 굿굿 ㅇㅇ(143.244) 14:11 4 0
4440484 32인치 4k 유튜브 2배속 하면 못볼 정도로 버벅이는데 ㅇㅇ(218.39) 14:11 10 0
4440483 릴간이 잘살면 걍 집사진 한번 찍어라 ㅋㅋ ㅇㅇ(143.244) 14:11 4 0
4440482 릴간이 자신 없어서 리젠을 안 하노 ㅋ ㅇㅇ(143.244) 14:11 4 0
4440481 143.244다중이 느금마 ㅋㅋㅋㅋWYMXTZV ㅇㅇ(149.40) 14:10 4 0
4440480 릴간이 자수하네ㅋㅋ ㅇㅇ(143.244) 14:10 4 0
4440479 143.244담당일진입갤KHNNOOL ㅇㅇ(149.40) 14:10 4 0
4440478 143.244담당일진입갤OGWMORN ㅇㅇ(149.40) 14:10 4 0
4440477 릴간이 자러갈라나~? ㅠㅠ ㅇㅇ(143.244) 14:10 4 0
4440476 143.244 못생긴다중이 월모닝꿀잠중ㅋㅋYWKHCTV ㅇㅇ(149.40) 14:10 4 0
4440475 릴간이 자러갈라나 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ ㅇㅇ(143.244) 14:10 4 0
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2