Хиймэл оюун ухааны өгөгдлийн төв гэж юу вэ? [Видео болон асуулт хариулт]

Товчхондоо: Хиймэл оюун ухааны өгөгдлийн төв нь эрчим хүч, хөргөлт, даавуу, хадгалах байгууламжийг сургалт, үйлчилгээ үзүүлдэг загваруудад төвлөрүүлдэг өндөр нягтралтай газар болохоос нэмэлт GPU-тай серверийн өрөө биш юм. Чипүүд алдар нэрийг олж авдаг; барилга нь ажиллах эсэхийг шийддэг. Хэрэв зургууд гарч чадахгүй бол жижиг нүдийг шинэчилдэг; ихэнх багууд түрээслэх хэрэгтэй.

Гол дүгнэлтүүд:

Чип ба барилга: Эрчим хүч, хөргөлт, даавуу, хадгалалт нь хурдасгуур ажиллах эсэхийг шийддэг.

Ордон биш газрууд: Өгөгдөл алга болохгүй үед хоёр тавиурыг шинэчил; кампус худалдаж авах хэрэггүй.

Дундаж ба медиан: Найман гүйлтийн дараа медиан дахин эхэлнэ; 18 цагийн дундажийг ашиглана уу.

Буруу ашиглалтын эсэргүүцэл: Холимог танхимд хоёр тавиур дээр PUE-г бүү хэлээрэй.

Жишээ үр дүн: Найман удаагийн гүйлт нь жижиг газрын зураг болохоос 50%-ийн үйлдвэрлэлийн хэмнэлт биш юм.

Үүний дараа таны унших дуртай нийтлэлүүд:

🔗 Хиймэл оюун ухаан найдвартай юу? Видео болон асуулт хариулт
Сонирхолтой видео болон интерактив асуулт хариултаар дамжуулан хиймэл оюун ухааны найдвартай байдлыг судлаарай.

🔗 Өдөр тутмын амьдралдаа хиймэл оюун ухааныг хэрхэн ашиглах вэ
Хиймэл оюун ухаан өдөр тутмын ажил, хэвшмэл үйл ажиллагааг хялбаршуулах практик аргуудыг олж нээ.

🔗 Ажил дээрээ хиймэл оюун ухааныг хэрхэн ашиглах вэ
Ажлын байрны бүтээмжийг илүү ухаалаг болгохын тулд хиймэл оюун ухааныг ашиглах практик аргуудыг сур.

🔗 Хиймэл оюун ухаан өөрөө сэтгэж чадах уу?
Хиймэл оюун ухаан үнэхээр бие даан сэтгэж чадах уу эсвэл сэтгэж чадах уу гэдгийг ойлгоорой.

Энэ нь "ердийн" дата төвөөс юугаараа ялгаатай вэ

Уламжлалт танхимууд нь олон жижиг үйлчилгээний холимог ажлын ачаалал болон ажиллах хугацааг оновчтой болгодог. Мэдээжийн хэрэг та нөөцлөлт болон PUE-г чухалчилдаг - барилга нь ватт тооцооллын эрчим хүч гаргахын тулд нэмэлт энерги зарцуулдаг. Та ихэвчлэн бүх коридорыг зөөврийн халаагуурын ферм шиг ажилладаг тавиурын эргэн тойронд зохион бүтээдэггүй.

Хиймэл оюун ухааны сайтууд харьцааг өөрчилдөг. Нягтрал нэмэгддэг. Сүлжээ нь сургалтын ажил үүнгүйгээр ажиллах боломжгүй даавуу болж хувирдаг. Хадгалах сан нь хяналтын цэгүүдийг хөдөлгөж байх ёстой, эс тэгвээс хурдасгуур нь замын түгжрэлд орсон уралдааны морьд шиг сул зогсдог.

Соёлын ялгаа бас бий. Байгууллагын операторууд торгууль болон цонх солих талаар боддог. Хиймэл оюун ухаан нь ажлын дараалал болон зангилаа удаан хугацаанд ажиллахаа больсон үед үүсдэг таагүй мэдрэмжийг боддог. Хоёуланг нь "өгөгдлийн төвүүд" гэж нэрлэж болно гэж би бодож байна, учир нь тэд тийм. Шошго нь зүгээр л сантехникийн холболтыг нуудаг.

Ёс суртахууны зэрэглэл биш. Өөр өөр машинууд, ижил овог нэр.

GPU, хурдасгуур болон эрчим хүчийг иддэг тавиур

Уламжлалт өндөр шалаар алхахад тавиурууд бараг л эелдэг харагддаг. Хиймэл оюун ухаанаар алхахад барилгыг залгих гэж байгаа юм шиг харагддаг.

Онцлох техник хангамж бол ухаалаг CPU биш юм. Энэ бол хурдасгуурын тавиур юм: GPU эсвэл бусад хиймэл оюун ухааны чипүүдийг сервер, дараа нь тавиур, дараа нь өндөр зурвасын өргөнтэй даавууг хуваалцдаг мөрүүдэд савладаг. GPU нь оёдлын чипүүдийг нэг аварга хурдасгуур мэт дүр эсгэж чадах зүйл болгон холбодог; кластер даавуу нь мөрийн хэмжээнд ижил заль мэхийг хийдэг. Зэрэгцээ сургалт нь эдгээр холбоосууд тарган, урьдчилан таамаглах боломжтой хэвээр байвал л үр дүнтэй байдаг. Үүнийгээ алдвал таны "кластер" нь шуудангийн кодыг хуваалцдаг үнэтэй ажлын станцуудын овоолго болно.

Чипийг дагадаг хүч. Оффисын том PDU биш. Нэг танхим дүүрмэгц мегаватт IT ачаалал өгдөг - би тоо зохиохгүй. Тавиур бүрийн нягтрал нь графикийн эргэлт юм. Тавиурууд цөөн. Нэг бүр нь жижиг зуух. Хязгаарлах хүчин зүйл нь ихэвчлэн GPU-ийн хүслийн жагсаалт биш, харин дэд станц байдаг. Та мэдэж байгаачлан: худалдан авалт илүү их хурдасгуур хүсдэг; компани урт яриа, маш их чек хүсдэг.

Нэг жаахан тэнэг зүйрлэлийг би үгүйсгэж чадахгүй байна: өлссөн амьтан бол өлссөн амьтан. Чи илүү хурдан амьтан үржүүлж чадна. Чи түүнийг тэжээх хэрэгтэй хэвээрээ л байна, халууныг нь саармагжуулах хэрэгтэй хэвээрээ байна. Аль нэгийг нь алгасвал маш үнэтэй цаасан жин болно.

Эрчим хүч, халаалт, хөргөлтийн асуудал

Цахилгаан орж байна. Дулаан гарч байна. Энэ бол бүхэл бүтэн шашин юм.

Өндөр нягтралтай тавиурууд нь агаарыг хэзээ ч боловсруулахыг шаардаж байгаагүй байдлаар дулааныг гадагшлуулдаг. Та агаарыг илүү хүчтэй түлхэж болно - арын хаалганы дулаан солилцуур, илүү халуун хонгил, ухаалаг хамгаалалт - энэ нь тодорхой хэмжээнд үр дүнтэй байдаг. Дараа нь шингэн гарч ирдэг:

• Чип рүү шууд хөргөх

• Үйлдвэрийн өрөөг химийн үйлдвэр шиг харагдуулдаг хөргөлтийн гогцоонууд

• Ус болон үйлчлэгч нар нэг өгүүлбэр хуваалцах ёсгүй гэж боддог хүмүүсийг цочирдуулсан хэдхэн загварт умбах нь

Энэ бүхэн тийм ч гоё биш. Энэ бүхэн бол бүтээгдэхүүн, учир нь та аль хэдийн төлбөрөө төлсөн ч бүрэн ашиглах боломжгүй хурдасгуур юм.

PUE чухал хэвээр байна. Энэ бол хувь хүний ​​шинж чанар биш, харьцаа юм. Сэнс болон шахуургад зарцуулсан ватт бүр нь график процессорт ороогүй ватт учраас операторууд үүнийг хөөцөлддөг. Би "ердийн" тоог иш татахгүй; уур амьсгал болон хил хязгаарыг хэрхэн зурах нь үүнийг өөрчилдөг бөгөөд хуурамч нарийвчлал нь байхгүйгээс ч дор юм. Ус ч бас түүхэнд байдаг. Зарим ургамал балгадаг. Зарим нь залгидаг. Ууршилтын хөргөлт нь гол мөрөн эсвэл ган гачиг улс төржих хүртэл үр дүнтэй байдаг.

Сүлжээ: даавуу яагаад чипс шиг чухал вэ

Хүмүүс GPU-уудын зургийг авдаг. Тэд унтраалгауудын зургийг авах хэрэгтэй.

Сургалт бол яриа юм. Мянга мянган хурдасгуурууд загварын градиент, параметр, хэлтэрхийг нягт синхрончлолоор солилцдог. Хэрэв даавуу чичирвэл бүх ажил хамгийн удаан үсрэлт дээр хүлээгддэг. Тийм ч учраас хиймэл оюун ухааны танхимууд өндөр зурвасын өргөнтэй сүлжээ, бага хоцрогдол, холболт тасарсан үед хагас нугалдаггүй топологид анхаарлаа хандуулдаг. InfiniBand маягийн даавуу, ижил үүрэгтэй Ethernet, хайрцаг доторх GPU холболтууд, анх удаа зөв байх ёстой кабель.

Дүгнэлт бол өөр яриа юм. Загварчлах үйлчилгээ нь сүүлний хоцрогдолд анхаарал хандуулдаг - дундаж хариулт биш, харин удаан хариулт. Багц болон бодит цагийн хооронд хувь хүний ​​​​шинж чанар хуваагддаг. Сургалтын кластер нь өргөн цар хүрээтэй, хамтын, бүгдийг хамарсан хөдөлгөөнийг. Үйлчилгээний флот нь ачааллын тэнцвэржүүлэгч дээр замын түгжрэлгүйгээр олон жижиг хүсэлт, тусгаарлалтыг хүсдэг.

Намайг энд байхад хүмүүс сүлжээг сантехник, харин жижиг сажиг зүйлсийг ресторан гэж үздэг. Энэ барилгад сантехник бол ресторан. Үүнийг анзаараагүй бол хүргэлт хүлээн авах боломжгүй гал тогоо худалдаж авдаг.

Сургалт ба дүгнэлт: хоёр барилга, заримдаа шууд утгаараа

Сургалт бол кампанит ажил юм. Та бөөгнөрөл цуглуулж, түүнд өгөгдөл өгч, итгэл үнэмшлийн дагуу шалган нэвтрүүлж, хэдэн цаг эсвэл долоо хоног гүйж, бүтцийг асуудалгүй байлгахыг залбирна. Багц ихтэй, зурвасын өргөн ихтэй, чимээгүйхэн тэвчээртэй - бүтэлгүйтсэн зангилаа гүйлтээс хазах хүртэл. Нягт холбогдсон ажлын нэг үхсэн хурдасгуур нь бүхэл бүтэн найрал дууг зогсоож чадна.

Дүгнэлт бол дэлгүүрийн үүдний танхим юм. Моделууд аль хэдийн сургагдсан бөгөөд одоо асуултанд хариулж, зургийг ангилж, текст үүсгэж байна. Хоцрогдол чухал. Үйлчлүүлэгчийн ойролцоо арай хуучин хурдасгуур нь тивээс хол байгаа тансаг хурдасгуурыг давж чадна.

Тэгэхээр та хуваагдана. Сургалтын кампусууд хүч чадал, газар нутаг, нягтралыг хөөцөлддөг. Дүгнэлтийн цэгүүд хоцрогдол болон оршихуйг хөөцөлддөг. Холимог танхимууд бас байдаг, учир нь хөрөнгө хязгааргүй биш юм. За - үргэлж хоёр барилга байдаггүй. Заримдаа хилэн олс, хоёр хөргөлтийн гогцоотой нэг танхим байдаг.

Энэ нь мөн колокейшн, гиперскейл кампусууд болон орон нутгийн сэрээ юм. Гиперскейлерүүд биднийг тавилга байрлуулж байгаа мэт харагдуулах масштабаар бүтээгддэг. Колосууд нягтралыг тавиурын дагуу зардаг. Өгөгдөл гарч чадахгүй үед орон нутгийн сэрээ үргэлжилсээр байдаг.

Хадгалах хүчин чадал, шалган нэвтрүүлэх цэгүүд болон өлсгөлөн чипүүд

Хэн ч товхимлын нүүрэн дээр зэрэгцээ файлын системийг байрлуулдаггүй.

Сургалтын өгөгдөл нь GPU-ууд хөлөө цохихгүй байхаар хангалттай хурдан ирэх ёстой. Осол гарахаас долоо хоногийн өмнө алдаа гаргахгүйн тулд хяналтын цэгүүд буух ёстой. Үйлчилгээний хуулбарыг ажиллуулахаас өмнө загварын жинг ачаалах ёстой. Зөвхөн багтаамж төдийгүй хадгалах багтаамж нь чимээгүй саад тотгор юм. Та хурдасгуурт их мөнгө зарцуулж, виртуал машинуудад зориулагдсан эелдэг массиваар тэднийг өлсгөж болно.

Энэ хэв маяг танил юм: гялалзсан бөөгнөрөл, ажлын дараалал, I/O хүлээлгэ нь бүдүүлэг нэхэмжлэх мэт арагшаа ширтэнэ. Өгөгдлийн замыг бөөгнөрөлгүйгээр кластер тооцоолол хийх нь маш үнэтэй сул зогсолттой болох арга юм. Чипийг тэжээх эсвэл баримал худалдаж авсан гэдгээ хүлээн зөвшөөр.

Програм хангамж, найрал хөгжим, болон тааламжгүй үйлдлийн давхарга

Техник хангамж бол алдар нэр. Хуваарь гаргагчид ажлыг хийдэг.

Хэрэв ажлын байрууд GPU олж чадахгүй бол, хоёр баг нударган зодоонгүйгээр кластерыг хуваалцаж чадахгүй бол, бүтэлгүйтсэн цолыг нөхөж чадахгүй бол, програм хангамж удаан хөдөлгөөнөөр бүтэлгүйтэх хүртэл гацаж байвал хиймэл оюун ухааны өгөгдлийн төв хэрэггүй болно. Зохион байгуулалт, ажиглагдах байдал, хүчийг хязгаарлах - энэ нь таны мэдэх хамгийн тод бус үйлдлийн давхарга юм.

Энэ давхарга надад нэг л дутагдалтай талтай. Мөн буруу тохируулсан NIC нь бүтэн өдрийн турш хөргөлтийн асуудлыг дуурайдаг... үүнийг та хэцүү замаар л олж мэднэ.

Зангилаа ажлын дундуур үхэх үед

Зангилаа үхдэг. Цонх солих нь таны хуанлийг тоодоггүй сургалтын гүйлтүүдтэй мөргөлдсөөр байдаг. Та том ажлуудыг хуваарьлаж, дүгнэлтийн сангуудыг хааж, "ажил удаан байна" шиг харагдах алдаануудын гүйлтийн дэвтэр бичиж, "ажил үхсэн" шиг харагдах хүртэл нь бичдэг. Илүүдэл байдал чухал хэвээр байна - цахилгаан, хөргөлт, зам, хадгалалт - гэхдээ алдааны горим нь хуучин есөн цагийн слайдаас бага цэвэрхэн байна. Дүгнэлт: хуулбарлах, өвчтэй зангилааг шавхах, хариулсаар байх. Сургалт нь өөдрөг үзлийг биш, харин шалгах цэгүүдийг хүсдэг.

Байршил, ус, сүлжээ болон хөршүүд

Та эдгээрийн нэгийг нь зуслангийн байшингийн хажууд үзэмж харахын тулд хаяж болохгүй.

Сүлжээнд холбогдох нь ихэвчлэн жинхэнэ байршил сонгох үйл явц юм. Дэд станц болон бусад хэрэглэгчидтэй нийтийн аж ахуйн нэгжтэй харьцуулахад газар нь хялбар байдаг. Хэрэв та хөргөлтийн ус ашигладаг бол бороо ороход хөршийн асуудал болдог. Дуу чимээ. Харааны хэмжээ. Хилийн хашааны дулаан. Төлөвлөлтийн хороод "үүл"-ийн талаарх санал бодлыг талбай, гол хэрэгтэй болох мөчид олж мэддэг.

Хоцрогдол нь эсрэгээрээ байдаг. Дүгнэлт нь хэрэглэгчдийн ойролцоо байх, хоорондоо холбогдох дуртай. Сургалт нь хямд эрчим хүчний зах зээл, сэрүүн уур амьсгалд нуугдаж болно. Салбар нь төгс нэг сайт байгаа юм шиг ярьдаг ч тийм газар байхгүй. Хэвлэлийн мэдээтэй буулт хийх боломжтой.

Үлдэгдэл дулаан ба урилгагүй зуух

Товхимолууд үүнд дуртай. Хаягдмал дулааныг гэр, усан сан, хүлэмжинд хийнэ; энэ бол сайхан өгүүлбэр. Заримдаа дүүргийн тойрог жинхэнэ байдаг. Заримдаа кампус буруу газар байрладаг ч дулаан нь агаарт цацагддаг. Би товхимлын хувилбарт эргэлзэж байна; би физикт эргэлздэггүй.

Хэнд хэрэгтэй вэ (хэн түрээслэх ёстой вэ)

Ихэнх хүмүүс эдгээр танхимуудын аль нэгийг эзэмших шаардлагагүй.

Шулуухан жагсаалт:

• Гиперскейлерүүд, учир нь бүтээгдэхүүн нь флот юм

• Лабораториуд, дараалалд орох хугацаа саад болж байгаа эсвэл өгөгдөл гарч чадахгүй байгаа үед

• Нууц мэдээллийн сантай банк, эмнэлгийн бүлэг, засгийн газар эсвэл үйлдвэрлэгч - орон нутгийн эсвэл хувийн коло тор нь хэдийгээр энэ нь хуурамч байсан ч оновчтой байж болно

Бусад бүх хүмүүс түрээслэх хэрэгтэй. Хиймэл оюун ухаанд бэлэн нягтралтай колокейшн. Үүлэн нөөц. Удирдлагатай кластер. Та цахилгаан станцын оператор болохгүйгээр хурдасгуурыг авдаг. Хэн нэгэн өглөөний 3 цагт хөргөлтийн давталтад хэн жижүүрлэж байгааг анх асуухад романтик байдал алга болдог.

Бахархал гэж байдаг гэдгийг би хүлээн зөвшөөрнө. Кластерыг эзэмших нь урьдчилан таамаглах хэрэгслийг эзэмшихтэй адил юм. Тэгээд цахилгааны төлбөрийн нэхэмжлэх ирээд бахархал намждаг.

Барилга юунд зориулагдсан бэ

Тэгэхээр, хиймэл оюун ухааны өгөгдлийн төв гэж юу вэ? Хурдасгуур, цахилгаан, хөргөлт, даавуу, хадгалах байгууламжийг сургалт болон үйлчлэх загваруудын эргэн тойронд зохион байгуулдаг тусгай, өндөр нягтралтай кампус бөгөөд буланд нь GPU бүхий ерөнхий зориулалттай мэдээллийн технологи биш юм. Энэ нь агуулах шиг харагддаг. Энэ нь математикийн тооцоолол хийдэг цахилгаан станц шиг ажилладаг.

Хэрэв та өөр юу ч санахгүй байгаа бол: чипс алдар нэрийг олж авдаг; дэд станц, хөргөлтийн төхөөрөмж, сүлжээ нь эдгээр чипс сайн санаа байсан эсэхийг шийддэг. Сургалт болон дүгнэлт нь дээврийг хуваалцаж болно; тэд өөр өөр ёс суртахуунтай байхыг хүсдэг хэвээр байна. Ихэнх байгууллагууд түрээслэх ёстой. Цөөн хэд нь барих хэрэгтэй. Хөршүүд аль алиныг нь анзаарах болно.

Үүл үргэлж барилгатай байсан. Өнөө үед барилга нь өөрийн гэсэн үзэл бодолтой байдаг.

Бодит жишээ: Зургууд гарч чадахгүй үед хоёр тавиуртай сургалтын нүд

Хувилбар

Томос бол Баруун Мидлендс дэх 400 ажилтантай Kestrel Precision үйлдвэрлэгчийн дэд бүтцийн ахлагч юм. Тэд аль хэдийн жижиг орон зайтай болсон: ERP, файл хуваалцах, виртуал машинууд, энэ нийтлэлийн эхэнд дурдсан холимог хороолол. Агаарын хөргөлт. Энгийн Ethernet. Оффисын дискэнд төгс тохирсон SAN.

Машины харааны баг үйлдвэрийн зургууд дээр хяналтын загварыг сургах шаардлагатай. Зурагнууд сайтаас гарч болохгүй. Тэд компанийн хувийн диск дээр ч гэсэн үүлэн диск дээр байрлуулахгүй процессыг харуулдаг. Procurement-ийн шийдэл нь дөрвөн хос хурдасгууртай сервер болон "манай хиймэл оюун ухааны өгөгдлийн төв" гэсэн гарчигтай слайд юм. Серверүүд нь зай байгаа тул хоёр одоо байгаа тавиур дээр байрладаг бөгөөд зай нь хязгаарлалт мэт санагдаж байв.

Тийм биш. Хоёр долоо хоногийн дотор GPU-ууд завгүй сонсогдож, дараа нь чимээгүйхэн хурдаа алддаг. Шалгах цэг SAN-д ороход ажил мөлхөж эхэлдэг. Арван нэг цагт зангилаа үхэж, гүйлт нь зүгээр л ... алга болдог. Томос чип худалдаж авахаа больсонгүй. Тэр шуудангийн кодыг хуваалцдаг үнэтэй ажлын станцуудын овоолго худалдаж авсан. Барилга нь одоо ч гэсэн аж ахуйн нэгжийн танхим байсан.

Тэдэнд кампус, шинэ дэд станц эсвэл гол хэрэггүй. Тэдэнд хиймэл оюун ухааны өгөгдлийн төв шиг жижигхэн эс хэрэгтэй: тавиурууд үнэхээр барьж чадах цахилгаан, чипсийг чанахгүйгээр алга болох дулаан, сургалтын ажил ярьж чадах даавуу, шалгах цэгийг авч болох хадгалах газар, зангилаа үхэх үед ашиглах дэвтэр. Зургууд гарч чадахгүй тул дөчин минутын зайд байрлах коло тор түрээслэх нь шийдэл биш юм. Хоёр тавиурыг шинэчлэх нь хамгийн зөв арга юм.

Эсэд юу хэрэгтэй вэ

• GPU-ийн хүслийн жагсаалтаас биш, харин PDU-уудаас авсан хэмжсэн эрчим хүчний төсөв. Хэрэв нөөц багтаамж нь сургалтын ачаалалтай үед дөрвөн серверийг тэжээж чадахгүй бол яриа тэнд зогсож, тэд гайхамшиг биш харин илүү нягт өнгийг хардаг

• Агаарыг ийм нягтралтай хөргөхийг хэзээ ч шаардаж байгаагүй: хэрэв танхимд арын хаалганы дулаан солилцуур байж чадвал, эсвэл жижиг шингэн гогцоо байж чадвал хөргөх төхөөрөмж ашиглахыг. Хэрэв аль нь ч байхгүй бол серверүүд дотогш ордоггүй

• Оффисын Ethernet биш, харин дөрвөн зангилааны хоорондох тусгай өндөр зурвасын өргөнтэй даавуу. Хэрэв үйлдвэрлэгч каталогт зөвхөн 10 ГБ-ын шилжүүлэгчтэй бол энэ нь кластер биш юм

• VM SAN биш, харин шалган нэвтрүүлэх цэгүүд болон сургалтын хэсгүүдэд зориулсан орон нутгийн хурдан хадгалах сан

• Хуваарьлагч, шалгах цэгийн интервал болон бичгээр дахин эхлүүлэх зам. Техник хангамж бол алдартан. Энэ давхарга бол ажил юм

• Үйлдвэрийн шугамын хашаатай дүгнэлтийн хайрцаг нь сургалтын ярианаас тусдаа, учир нь үйлчилгээ нь хамтын бус харин сүүлний хоцрогдол болон тусгаарлалтыг хүсдэг

• Тэжээл, GPU цаг, хийн хурдны үйл явдал болон ажлын ханын цагийг бүртгэх зөвшөөрөл. Хэрэв тэд эдгээрийг шалгаж чадахгүй бол GPU-ийн зургийг авч, унтраалгыг алдах болно

Жишээ заавар

Томос үүнийг байгууламжийн товч агуулгад энгийн хэлээр тайлбарлаж байна:

Үүнийг хиймэл оюун ухааны кампус гэж нэрлэж болохгүй. Одоо байгаа танхимд дөрвөн хос хурдасгууртай серверт зориулсан хоёр тавиуртай сургалтын өрөө барь. Үйлдвэрийн зургууд байрандаа үлдэнэ. Амжилт нь: дөрвөн зангилаа нь дулааны тохируулагчгүйгээр 12 эрин үеийн шалгалтын сургалтын жорыг гүйцээж, хэдэн арван минутын дотор биш хэдэн минутын дотор шалгах цэг бичиж, зориудаар зэрэглэлийг нь хөнөөхөд тэр шалгах цэгээс үргэлжлүүлнэ. Хөргөлт нь GPU-г сургалтын цагт нь байлгах ёстой. Сүлжээ нь эдгээр дөрвөн хайрцаг хуваалцдаг даавуу байх ёстой, оффисын стекээр дамжин өнгөрөх зам биш. Хадгалалт нь чипийг тэжээх ёстой. Хэрэв арын хаалганы дулаан солилцуур багтахгүй бол тэгж хэлээд зогсоо. Холимог танхимд хоёр тавиурт PUE битгий хэлээрэй. Энэ тоо театр болно.

Дараа нь тэр үүнийг сургалтын ажилдаа оруулдаг:

Орон нутгийн хурдан цөөрөм рүү 30 минут тутамд шалган нэвтрүүлэх цэгийг шалгана уу. Хэрэв цол нь үхвэл хамгийн сүүлд бүрэн шалган нэвтрүүлэх цэгээс дахин эхлүүлнэ үү. SAN дээр хүлээх хэрэггүй. Цагууд халаалтаас унтарсан үед бэлтгэлээ үргэлжлүүлж болохгүй. Бүртгүүлээд зогсоод бид лангууг харах боломжтой болно.

Сайн цаг иймэрхүү харагдаж байна: бүх найман GPU сургалтын цаг дээр, шалгах цэгийн файл ажиллаж байна, ажил түгжигдсэн хэвээр байна. Муу цаг иймэрхүү харагдаж байна: сэнснүүд бүрэн хашгирч байна, цаг унтарсан, шалгах цэг арван минутын дараа 2% гэж бичигдсэн, оффис дээр хэн нэгэн "кластер ажиллаж байна" гэж хэлж байна. Дээшээ гарах нь сургалт биш.

Үүнийг хэрхэн шалгах вэ

Тэд шинэчлэл хийхээс өмнө тестийг бичдэг бөгөөд энэ нь демо хувилбарт итгэхгүй байгаагийн гол санаа юм.

• 12 эриний адилхан жор, адилхан 120,000 үзлэгийн зураг, найман удаагийн гүйлт

• Ажлын илгээлтээс эхлээд 12-р эриний сүүлийн шалган нэвтрүүлэх цэг хүртэл хэмжсэн аливаа дахин ачаалалтыг оруулаад дууссан жор хүртэлх цагийг ханын цагаар хэмждэг

• Халуун дээр дамжуулалт: GPU цагнууд гүйлтийн турш сургалтын зорилтот түвшиндээ үлддэг. Ажил эцэст нь дууссан ч гэсэн хурдны хязгаарын үйл явдал бүтэлгүйтдэг

• Хадгалах зөвшөөрлийн баримт: ажлын бүртгэлээс шалгах цэгийн бичих хугацаа, дундаж ба хамгийн муу нь

• Даавууны дамжуулалт: цол эрүүл байх үед ажил хамтын хүлээлтэд суудаггүй. Хэрэв тэд хүлээлтийг харж чадахгүй бол багаж хэрэгсэл дуусаагүй байна

• Дахин эхлүүлэх замыг шалгахын тулд найман гүйлтийн хоёр нь тогтоосон алхам дээр зориудаар устгагдсан зэрэглэл авдаг

• Дүгнэлт нь үйлдвэрийн шугамаас хашаатай үйлчлэх хайрцаг хүртэлх тусдаа 200 зургийн туршилт юм. Сургалтын амжилт нь үйлчлэх амжилтад тооцогдохгүй

• Тэд PDU-ийн тавиурын чадлыг 15 минутын дээжинд бүртгэдэг тул хэн ч мегаватт зохион бүтээх шаардлагагүй болдог

"Хиймэл оюун ухаанд бэлэн" гэж нэрлэхийг хүлээн зөвшөөрсөн: 8 жорын 8 нь дууссан; 8 жорын 0 нь дулааны агшилтыг харуулсан; хоёр устгагдсан гүйлт үргэлжилсэн; шалгах цэгүүд хэдэн минутын дараа үлдсэн. Хэрэв тэд үүнийг алдвал тэд гоёмсог график карттай серверийн өрөөтэй хэвээр байна.

Үр дүн

Нийтлэгдсэн Kestrel тоон үзүүлэлт биш, харин зохиомол найман удаагийн туршилтын жишээ үр дүн.

Таамаглал: хоёр тавиур дээр дөрвөн хос хурдасгууртай сервер; нэг шалгалтын загвар; 120,000 зураг; 12 эрин үеийн тогтмол жорын найман удаагийн ажиллагаа; ханын цаг нь жор дуусах хүртэл дахин ачаалалтыг багтаадаг; хурдасгуур гэдэг нь сургалтын цагаас бүртгэлтэй уналтыг хэлнэ; шалган нэвтрүүлэх цэгийн хугацаа нь бичих хугацаа болохоос хүсэл биш; тавиурын хүч нь кампусын PUE биш, харин PDU дээж юм.

Шинэчлэлт хийхээс өмнө оффисын Ethernet болон VM SAN дээрх ердийн агаарын хөргөлттэй тавиурууд дахь GPU-ууд:

• 8 гүйлтийн 5 нь эхний оролдлогоороо дуусгасан. Эдгээр таван гүйлтийн дунджаар ханын цаг: 14 цаг

• 11 цагийн орчимд зогссоны дараа 8-ын 3 нь дахин эхлүүлэх шаардлагатай болсон (хоёр зангилаа хуучирсан хяналтын цэгээс болж үхсэний дараа, нэг нь хяналтын цэг SAN-г дүүргэсний дараа). Шууд дахин оролдлого, цагийг шөнөжин хүлээх шаардлагагүй: 11 цаг алдсан дээр нэмээд 14 цагийн хоёр дахь оролдлого эсвэл эдгээр гурван жор бэлэн болоход 25 цаг зарцуулсан

• Найман хоолны жорыг дуусгахад шаардагдах дундаж хугацаа, дахин эхлүүлэх хугацаа: 18 цаг. (14 цагт тав, 25 цагт гурван. Найман хоолны голч нь 14 хэвээр байгаа тул дахин эхлүүлэх хугацааг нуух болно. Тиймээс дундаж нь энд суурь үзүүлэлт юм.)

• 8 гүйлтийн 7-д нь дулааны агшилт бүртгэгдсэн. Цагийг багасгасан дундаж хугацаа: 14 цагийн оролдлогод 3 цаг

• Шалгах цэгийн бичих хугацаа: дундаж 22 минут

• Цол хэргэмтэй аллага бол тэдний давж чадах шалгалт биш байв. Тэдэнд бүртгэлийн дэвтэр байгаагүй. Хоёр санамсаргүй үхэл бол олдвор байв

• Бэлтгэлийн үеэр хоёр тавиур дээрх IT-ийн оргил ачаалал: ойролцоогоор 18 кВт. Эгнээ нь ватттай байсан. Хөргөлт эсвэл даавуу байгаагүй

Хоёр тавиур дээр арын хаалганы дулаан солилцуур, дөрвөн зангилааны хооронд тусгай даавуу, шалгах цэгүүдэд зориулсан жижиг NVMe сан, 30 минутын шалгах цэг, дахин эхлүүлэх runbook-ийн дараа:

• Эхний оролдлогоор 8-аас 8 нь дууссан. Ханын цагны дундаж хугацаа: 9 цаг

• Дулааны тохируулагч: 8-аас 0

• Шалгах цэгийн бичих хугацаа: медиан 90 секунд. Багийн хамгийн муу нь: 3 минут

• Хоёр санаатайгаар цол хэргэмээр алсан нь сүүлийн 30 минутын шалган нэвтрүүлэх цэгээс үргэлжилсэн. Эдгээр хоёр гүйлт дээр нэмэлт цаг: тус бүр 40 орчим минут, оношийг оруулаад, хоёр нь 9 цаг 40 минут орчим үргэлжилсэн. 9 цаг хүртэл найман тойргийн дундаж үзүүлэлт хэвээр байна

• Оргил ачаалал нь ойролцоогоор 18 кВт хэвээр байна. Ижил чипс. Барилгын өөр өөр зан төлөвтэй байна

Энэ дээжийн хувьд жор дуусах дундаж хугацаа 18 цагаас 9 цаг буюу тус бүр 9 цаг болж, найман удаа 72 цаг болсон. Анхны удаа дууссан нь 8-ын 5-аас 8-ын 8 болж буурсан. Тоглуулагч нь 8-ын 7-оос 8-ын 0 болж буурсан. Хамгийн сүүлийн тоо нь тэд хурдасгуур эсвэл цаасан жин худалдаж авсан эсэхийг хэлж байгаа тоо юм. Тэд цагийн өөрчлөлтийг үйлдвэрлэлд 50% хэмнэлт гэж нэрлэхгүй. Найман удаа гүйлт бол жижиг, хялбар багц юм.

Эдгээр тоо баримт нь заасан туршилт, жижиг дээж, нэг загвар, нэг холимог танхим дээр үндэслэсэн жишээ тооцоолол юм. Эдгээр нь PUE биш, кампусын мегаватт биш бөгөөд Kestrel нь талбайд сургалтын талбай барих ёстой гэсэн нотолгоо биш юм. Бүртгэлийн тойм нь 9 цагийн дотор байсан; тэд үүнийг нуугаагүй. 18 кВт-ын тоо нь хэрэглээний төлбөрийн нэхэмжлэх биш, харин бөөрөнхий PDU заалт юм. Тэд 72 цагийг зардал болгон хувиргаагүй, учир нь үйлдвэрийн холимог цахилгааны тариф нь хуурамч бизнесийн үндэслэл болох байсан.

Үйлчлэх чек нь тусдаа бөгөөд жижиг байсан: хашаатай хайрцагт 200 мөр зураг, бүгд байрандаа байсан. Энэ бол дүгнэлт болохоос сургалт биш. Энэ хоёрыг холих нь бяцхан дүр төрхийн эрлийз танхимын алдаа байх байсан.

Юу буруу болж болох вэ

• Худалдан авалт нь дөрвөн серверийг "хиймэл оюун ухааны өгөгдлийн төв" гэж нэрлэсээр байна. Шошго нь сантехникийн холболтыг нуудаг бөгөөд дараагийн худалдан авалт нь ижил өвчтэй хэсэгт зориулсан илүү олон GPU юм

• Арын хаалганы солигч орж ирэхэд хэн ч усны талыг ашиглалтад оруулаагүй. Сэнснүүд хашгирсаар л байна. Цаг унтарсаар л байна

• Энэ материал нь нөөц замгүй ганц унтраалга юм. Нэг холбоос эвдэрсэн бөгөөд "кластер" нь дахин дөрвөн ажлын станц болж хувирдаг

• NVMe сан нь "хоёрдугаар үе шат" байсан тул шалгах цэгүүд SAN дээр үлддэг. Хоёрдугаар үе шат нь дараагийн үхсэн зангилаанаас өмнө ирдэггүй

• Тэд холимог танхимд байрлах хоёр тавиурт PUE гэж үнэлдэг. Уур амьсгал, хил хязгаар болон ERP-ийн бусад хэсгүүд нь энэ харьцааг хувцасны шаардлага болгодог

• Сургалт болон үйлчлэл нь даавууг хуваалцдаг. Шалгах цэгийн үер нь үйлдвэрийн шугамыг хүлээлгэдэг. Сүүлний хоцрогдол нь нягтрал биш харин тэнд байгаа бүтээгдэхүүн юм

• Зангилаа үхэж, хэн нэгэн үүнийг шалгах цэгийг дахин эхлүүлэхийн оронд ажиллах хугацааны тасалбар гэж үздэг. Байгууллагын болон хиймэл оюун ухааны ажилтнууд бүтэн өдрийн турш бие биенийхээ хажуугаар ярилцдаг

• Тэд тор түрээслэж болох байсан ч зургууд гарч чадахгүй. Энэ хязгаарлалтыг мартаад тэд тайвшрах хэрэгтэй болно

Практик хоол

Энэ хэлбэрээр хиймэл оюун ухааны өгөгдлийн төв гэж юу вэ гэдэг нь агуулах биш, GPU нэхэмжлэх биш юм. Энэ нь хурдасгууруудад гүйлтийг дуусгах боломжийг олгодог эс юм: барьж чадах хүч, гарч буй дулаан, даавуу, шалган нэвтрүүлэх цэг, цол үхэх үед хэн нэгэн дэгээнд ордог. Кестрелд кампус хэрэггүй байсан. Тэд дүр эсгэхээ болихын тулд хоёр тавиур хэрэгтэй байсан. Ихэнх багууд энэ зан үйлийг түрээслэх ёстой. Нууц өгөгдлийн багц, дулааныг авч чаддаг танхимтай цөөн хэдэн баг эс барьж, гулсуурыг татгалзах ёстой.

Түгээмэл асуултууд

Хиймэл оюун ухааны өгөгдлийн төв гэж юу вэ?

Цахилгаан, хөргөлт, сүлжээ, хадгалалт нь ерөнхий зориулалттай серверүүдийн цэгцтэй эгнээ биш, харин зэрэгцээ сургалт болон загвар үйлчилгээнд төвлөрсөн өндөр нягтралтай тооцоолох сайт. Энэ нь маш олон тооны хурдасгуурууд хайлах, сүлжээнд гацах, эсвэл диск дээр хүлээхгүйгээр загваруудыг сургаж, үйлчлэх боломжтой байхаар зохион бүтээгдсэн. Энгийн аж ахуйн нэгжийн танхим бол холимог хороолол юм. Хиймэл оюун ухааны танхим бол GPU эсвэл TPU маягийн чип гэх мэт хурдасгуурын нэгж болох монокультур юм. Энэ нь агуулах шиг харагддаг бөгөөд математикийн тооцоолол хийдэг цахилгаан станц шиг ажилладаг.

Хиймэл оюун ухааны дата төв нь ердийн дата төвөөс юугаараа ялгаатай вэ?

Уламжлалт танхимууд нь олон жижиг үйлчилгээний холимог ажлын ачаалал болон ажиллах хугацааг оновчтой болгодог. Хиймэл оюун ухааны сайтууд харьцааг өөрчилдөг: нягтрал нэмэгдэж, сүлжээ нь сургалтын ажлын байрны сул зогсолтгүй болж, хадгалах байгууламж нь шалгах цэгүүдийг хөдөлгөж байх эсвэл хурдасгууруудыг сул зогсолттой байлгах ёстой болдог. Байгууллагын операторууд тасалбар болон цонх солих талаар боддог. Хиймэл оюун ухааны операторууд ажлын дараалал болон зангилаа удаан хугацаанд ажиллахаа больсон үед таагүй мэдрэмжийг боддог. Та хоёр өгөгдлийн төв рүү залгаж болно. Шошго нь зөвхөн сантехникийн холболтыг нуудаг.

Хиймэл оюун ухааны өгөгдлийн төвүүд яагаад ийм их эрчим хүч ашигладаг вэ?

Онцгой техник хангамж нь ухаалаг CPU биш юм. Энэ бол хурдасгуурын тавиур юм: GPU эсвэл бусад хиймэл оюун ухааны чипүүд серверт, дараа нь тавиуруудад, дараа нь өндөр зурвасын өргөнтэй даавууг хуваалцдаг мөрүүдэд савлагдсан. Тавиур бүрийн нягтрал нь графикийн эргэлт юм: цөөн тавиурууд, тус бүр нь жижиг зуух юм. Танхим дүүрмэгц мегаваттын мэдээллийн технологийн ачаалал гарч ирдэг ч ердийн тоог зохиох нь үнэ цэнэтэй биш юм. Хязгаарлах хүчин зүйл нь ихэвчлэн GPU-ийн хүслийн жагсаалт биш харин дэд станц байдаг.

Хиймэл оюун ухааны өгөгдлийн төвүүд хэрхэн хөргөгддөг вэ?

Өндөр нягтралтай тавиурууд нь агаарыг хэзээ ч боловсруулахыг шаардаж байгаагүй байдлаар дулааныг гадагшлуулдаг. Та арын хаалганы дулаан солилцуур, илүү халуун хонгил, ухаалаг хамгаалалтын тусламжтайгаар агаарыг илүү хүчтэй түлхэж болно. Дараа нь шингэн гарч ирнэ: чип рүү шууд хөргөх, хөргөлтийн гогцоо, хэд хэдэн загварт дүрэх. Хэт хурдасгуур бол та аль хэдийн төлсөн боловч бүрэн ашиглаж чадахгүй хурдасгуур юм. Сэнс болон насосонд зарцуулсан ватт бүр нь график процессорт зарцуулагдаагүй ватт учраас PUE чухал хэвээр байна. Ус ч бас түүхэнд гардаг: зарим ургамал балгаж, зарим нь балгадаг.

Яагаад сүлжээ нь GPU-тэй адил чухал вэ?

Сургалт бол яриа юм: мянга мянган хурдасгуурууд нягт синхрончлолд загварын градиент, параметр, хэлтэрхийг солилцдог. Хэрэв даавуу чичирхийлбэл бүх ажил хамгийн удаан үсрэлт дээр хүлээгддэг. Тийм ч учраас хиймэл оюун ухааны танхимууд өндөр зурвасын өргөнтэй сүлжээ, бага хоцрогдол, InfiniBand шиг даавуу эсвэл ижил үүрэг гүйцэтгэдэг Ethernet, холбоос тасарсан үед хагас нугалдаггүй топологиудад анхаарлаа хандуулдаг. Дүгнэлт нь сүүлний хоцрогдол, олон жижиг хүсэлт, тусгаарлалтыг чухалчилдаг. Энэ барилгад сантехник бол ресторан юм.

Хиймэл оюун ухааны өгөгдлийн төвийг юунд ашигладаг вэ: сургалт эсвэл дүгнэлт?

Сургалт бол кампанит ажил юм: кластерыг цуглуулж, түүнд өгөгдөл өгч, шашны хяналт шалгалтын цэгийг ашиглан хэдэн цаг эсвэл хэдэн долоо хоногийн турш ажиллуулдаг. Дүгнэлт бол дэлгүүрийн үүдний танхим юм: аль хэдийн сургагдсан загварууд одоо хариу үйлдэл үзүүлдэг бөгөөд хоцрогдол нь чухал юм. Сургалтын кампусууд хүч чадал, газар нутаг, нягтралыг хөөдөг. Дүгнэлтийн газрууд хоцрогдол болон оршихуйг хөөдөг. Эрлийз танхимууд байдаг, учир нь хөрөнгө хязгааргүй биш, заримдаа хоёр хөргөлтийн гогцоотой нэг танхим байдаг. Үйлчлүүлэгчийн ойролцоо арай хуучин хурдасгуур нь тивээс хол зайд байрлах тансаг танхимыг гүйцэж чадна.

Хиймэл оюун ухааны өгөгдлийн төвд хадгалах систем яагаад чухал вэ?

Сургалтын өгөгдөл нь GPU-ууд хөлөө цохихгүй байхаар хангалттай хурдан ирэх ёстой. Осол гарахгүйн тулд хяналтын цэгүүд буух ёстой. Үйлчилгээний хуулбарыг ажиллуулахаас өмнө загварын жинг ачаалах ёстой. Зөвхөн багтаамж төдийгүй хадгалах багтаамж нь чимээгүй саад тотгор юм. Та хурдасгуурт их мөнгө зарцуулж, виртуал машинуудад зориулагдсан эелдэг массиваар тэднийг өлсгөж болно.

Зангилаа ажиллах явцад үхвэл юу болох вэ?

Нягт холбогдсон сургалтын ажлын нэг үхсэн хурдасгуур нь бүхэл бүтэн найрал дууг зогсоож чадна. Сургалт нь өөдрөг үзлийг биш, харин шалгах цэгүүдийг хүсдэг. Дүгнэлт нь өвчтэй зангилааг шавхаж, хуулбарыг хариулж, амьд хэвээр үлддэг. Өөрчлөлтийн цонхнууд нь таны хуанлид санаа тавьдаггүй сургалтын гүйлтүүдтэй мөргөлдсөөр байна. Илүүдэл нь эрчим хүч, хөргөлт, зам, хадгалалтын хувьд чухал хэвээр байгаа ч алдааны горим нь хуучин есөн цагийн слайдаас бага цэвэрхэн байна.

Хиймэл оюун ухааны өгөгдлийн төв нь цахилгаан сүлжээ, ус болон хөршүүдэд ямар нөлөө үзүүлдэг вэ?

Сүлжээнд холбогдох нь ихэвчлэн жинхэнэ байршил сонгох үйл явц юм. Дэд станц болон бусад хэрэглэгчидтэй нийтийн аж ахуйн нэгжтэй харьцуулахад газар нь хялбар байдаг. Хэрэв та хөргөлтийн усыг ашигладаг бол хур тунадас ихтэй, дуу чимээ ихтэй, харагдахуйц хэмжээ ихтэй, хилийн хашаанд дулаантай зэрэгцэн хөршийн асуудал болдог. Сургалт нь хямд эрчим хүчний зах зээл болон сэрүүн уур амьсгалд нуугдаж болно. Дүгнэлт нь хэрэглэгчдийн ойролцоо байх дуртай. Төгс газар гэж байдаггүй. Хэвлэлийн мэдээнд буулт хийх боломжтой.

Би хиймэл оюун ухааны дата төвтэй байх шаардлагатай юу, эсвэл түрээслэх ёстой юу?

Ихэнх хүмүүс эдгээр танхимуудын аль нэгийг эзэмших шаардлагагүй. Гиперскейлерүүд бүтээгдэхүүн нь флот учраас бүтээдэг. Лабораториуд дараалалд орох хугацаа саад тотгор болсон эсвэл өгөгдөл гарч чадахгүй үед бүтээдэг. Нууц өгөгдлийн багцтай банк, эмнэлэг, засгийн газар эсвэл үйлдвэрлэгч нь орон нутгийн эсвэл хувийн коло торыг оновчтой болгож чадна. Бусад бүх хүмүүс түрээслэх ёстой: хиймэл оюун ухаанд бэлэн коло байршил, үүлэн нөөцлөлт эсвэл удирддаг кластер. Та цахилгаан станцын оператор болохгүйгээр хурдасгуурыг авдаг.

Лавлагаа

1. IEA - www.iea.org

2. LBNL - datacenters.lbl.gov

3. Ногоон сүлжээ - www.thegreegrid.org

4. LBNL - datacenters.lbl.gov

5. LBNL - datacenters.lbl.gov

6. Uptime Institute - journal.uptimeinstitute.com

7. NVIDIA - developer.nvidia.com

8. NVIDIA - docs.nvidia.com

9. NVIDIA - docs.nvidia.com

10. NVIDIA - docs.nvidia.com

11. Google Cloud - docs.cloud.google.com

Албан ёсны хиймэл оюун ухааны туслах дэлгүүрээс хамгийн сүүлийн үеийн хиймэл оюун ухааныг олоорой

Бидний тухай