AI хэр их ус хэрэглэдэг вэ?

Та "Хиймэл оюун ухаан хэдэн асуулт тутамд нэг шил ус уудаг"-аас эхлээд "үндсэндээ хэдэн дусал" хүртэл бүх зүйлийг сонссон гэдэгт би итгэлтэй байна. Үнэн хэрэгтээ илүү нарийн ширийн зүйл бий. Хиймэл оюун ухааны усны ул мөр нь хаана ажилладаг, таны мөр хэр удаан үргэлжилдэг, дата төв серверүүдээ хэрхэн хөргөдөг зэргээс хамааран өргөн хүрээнд хэлбэлздэг. Тиймээс, гарчгийн дугаар байгаа ч энэ нь олон тооны анхааруулгын дунд байдаг.

Доор би тодорхой, шийдвэр гаргахад бэлэн тоонуудыг задалж, тооцоолол яагаад зөрж байгааг тайлбарлаж, барилгачид болон энгийн хэрэглэгчид тогтвортой байдлын лам нар болохгүйгээр усны түвшинг хэрхэн багасгаж болохыг харуулах болно.

Үүний дараа унших дуртай нийтлэлүүд:

🔗 Хиймэл оюун ухааны өгөгдлийн багц гэж юу вэ
Өгөгдлийн багц нь машин сургалтын сургалт болон загвар боловсруулах боломжийг хэрхэн олгодог болохыг тайлбарладаг.

🔗 Хиймэл оюун ухаан чиг хандлагыг хэрхэн урьдчилан таамагладаг вэ
Хиймэл оюун ухаан өөрчлөлт болон ирээдүйн үр дүнг урьдчилан таамаглахын тулд хэв маягийг хэрхэн шинжилдэгийг харуулдаг.

🔗 AI гүйцэтгэлийг хэрхэн хэмжих вэ
Нарийвчлал, хурд, найдвартай байдлыг үнэлэхэд шаардлагатай үзүүлэлтүүдийг задлан шинжилнэ.

🔗 AI-тай хэрхэн ярих вэ
Тодорхой байдал, үр дүн, тууштай байдлыг сайжруулах үр дүнтэй өдөөлтийн стратегийг удирдан чиглүүлдэг.

Хиймэл оюун ухаан хэр их ус хэрэглэдэг вэ? Таны үнэхээр ашиглаж болох хурдан тоонууд 📏

• Өнөөдрийн ердийн хүрээ нь нэг хүсэлтийн дундаж текст хүсэлтийн хувьд миллилитрээс бага байхаас эхлээд нөгөө систем дээр урт, өндөр тооцооллын хариу үйлдэл үзүүлэхэд хэдэн арван миллилитр текст хүсэлтийн дундажийг ~0.26 мл 400 токен туслахын хариултыг ~45 мл (захын дүгнэлт) гэж тогтоосон [2]. Контекст болон загвар нь маш чухал юм.

• Хил хязгаарын загварыг сургах нь: ихэвчлэн хөргөлт болон цахилгаан үйлдвэрлэхэд шингэсэн уснаас сая сая литр ус зарцуулж болно GPT ангиллын загварыг сургахад ~5.4 сая литр ус ~700,000 литр ус бөгөөд усны эрчимийг бууруулах ухаалаг хуваарь гаргахыг зөвлөж байна [3].

• Ерөнхийдөө өгөгдлийн төвүүд: томоохон операторуудад томоохон газрууд өдөрт дунджаар хэдэн зуун мянган галлон ус

Үнэнийг хэлэхэд: эдгээр тоо баримт эхэндээ зөрчилтэй мэт санагдаж байна. Тийм ээ. Үүнд сайн шалтгаан бий.

Хиймэл оюун ухааны усны хэрэглээний үзүүлэлтүүд ✅

Хиймэл оюун ухаан хэр их ус хэрэглэдэг вэ? гэсэн асуултын сайн хариулт нь хэдэн хайрцгийг чагтална уу:

1. Хил хязгаарын тодорхой байдал
   талбай дээрх хөргөлтийн ус эсвэл цахилгаан станцуудын цахилгаан үйлдвэрлэхэд талбайгаас гадуурх ус багтдаг уу ус татах болон усны хэрэглээг , нүүрстөрөгчийн нягтлан бодох бүртгэлтэй төстэй 1-2-3 хүрээг хамардаг [3].

2. Байршлын мэдрэмж
   Нэг кВт.ц тутамд ногдох ус бүс нутаг болон сүлжээний холимогоос хамааран өөр өөр байдаг тул ижил дохио нь хаана үйлчилж байгаагаас хамааран өөр өөр усны нөлөөллийг авчирч чаддаг - энэ нь уран зохиолд цаг хугацаа, байршлыг харгалзан хуваарь гаргахыг [3].

3. Ажлын ачааллын бодит байдал
   Энэ тоо нь үйлдвэрлэлийн дундаж хугацааг , эсвэл зөвхөн оргил үеийн хурдасгуурыг тусгаж байна уу? Google нь зөвхөн TPU математикийн тооцоог бус, дүгнэлтийн хувьд системийн бүрэн нягтлан бодох бүртгэлийг (сул зогсолт, CPU/DRAM болон өгөгдлийн төвийн ачаалал) онцолдог [1].

4. Хөргөлтийн технологи
   Ууршуулах хөргөлт, хаалттай гогцоотой шингэн хөргөлт, агаарын хөргөлт болон шинээр гарч ирж буй чип рүү дараагийн үеийн зарим газруудад хөргөлтийн усны хэрэглээг арилгах зорилготой загваруудыг гаргаж байна

5. Өдрийн цаг ба улирал
   Дулаан, чийгшил, сүлжээний нөхцөл байдал нь усны хэрэглээний үр ашгийг ; нэгэн нөлөө бүхий судалгаагаар усны эрчим бага байх үед томоохон ажлуудыг төлөвлөхийг санал болгож байна [3].

Ус татах болон усны хэрэглээний харьцуулалт, тайлбарлав 💡

• Ус татах = гол, нуур, эсвэл уст давхаргаас авсан ус (зарим нь буцаж ирсэн).

• Хэрэглээ = ус ууршдаг эсвэл үйл явц/бүтээгдэхүүнд ордог тул буцааж өгөөгүй

Хөргөлтийн цамхагууд нь голчлон ууршилтаар ус хэрэглэдэг татаж . Түүний мэдээлж буй найдвартай хиймэл оюун ухааны усны тоо [3].

Хиймэл оюун ухаанд ус хаашаа ордог вэ: гурван хувин 🪣

1. Хамрах хүрээ 1 - газар дээрх хөргөлт
   Харагдах хэсэг: өгөгдлийн төвд өөрөө ууршсан ус. Ууршуулагч эсвэл агаар эсвэл хаалттай гогцооны шингэн суурь шугамыг тогтоодог [5].

2. Хамрах хүрээ 2 - цахилгаан эрчим хүч үйлдвэрлэх
   КВт.ц тутамд нуугдсан усны шошго байж болно; хольц болон байршил нь таны ажлын ачааллын өвлөгдөх литр тутамд ногдох дохиог тодорхойлно [3].

3. Хамрах хүрээ 3 - хангамжийн сүлжээ
   Чип үйлдвэрлэл нь үйлдвэрлэлдээ хэт цэвэр уснаас хамаардаг. Хэрэв хил хязгаарт биет нөлөөллийг (жишээ нь, бүрэн LCA) тодорхой тусгаагүй бол та үүнийг "тушаал бүрт" хэмжигдэхүүнээр харахгүй [2][3].

Үйлчилгээ үзүүлэгчид тоогоор, нарийн мэдрэмжтэйгээр 🧮

• Google Gemini нь
  Full-stack serving using аргыг (сул зогсолт болон байгууламжийн нэмэлт ачааллыг оруулаад) санал болгодог. Дундаж текст нь ~0.24 Вт.ц хамт ~0.26 мл усыг ; тоо баримт нь үйлдвэрлэлийн урсгал болон цогц хил хязгаарыг тусгасан болно [1].

• Mistral Large 2 амьдралын мөчлөг
  Ховор бие даасан LCA (ADEME/Carbone 4-тэй хамт) нь сургалт + эрт хэрэглээнд ~281,000 м³ 400 токен туслах хариултын хувьд ~45 мл-ийн хязгаарын дүгнэлтийг

• Майкрософтын тэг ус хөргөх амбиц
  Дараагийн үеийн дата төвүүд нь хөргөлтөд тэг ус зарцуулахаар бөгөөд чип рүү шууд холбох аргад тулгуурладаг; админ хэрэглээнд ч гэсэн бага зэрэг ус шаардлагатай хэвээр байна [4].

• Ерөнхий мэдээллийн төвийн цар хүрээ
  Томоохон операторууд өдөрт дунджаар хэдэн зуун мянган галлоныг тус тусын байршлуудад олон нийтэд мэдээлдэг; уур амьсгал болон дизайн нь тоонуудыг дээш эсвэл доош түлхдэг [5].

• Өмнөх эрдэм шинжилгээний суурь судалгааны үр дүн
  болох "цангасан хиймэл оюун ухаан"-ын шинжилгээгээр GPT ангиллын загваруудыг сургахад сая сая литр ус 10-50 дунд зэргийн хариулт 500 мл-ийн тэнцүү байж болох бөгөөд энэ нь хэзээ/хаана ажиллахаас ихээхэн хамаарна [3].

Яагаад тооцоолол ийм их зөрүүтэй байна вэ 🤷

• Өөр өөр хил хязгаар
  Зарим тоо баримт нь зөвхөн газар дээрх хөргөлтийг цахилгааны усыг нэмдэг чипс үйлдвэрлэхийг нэмж болно . Алим, жүрж, жимсний салат [2][3].

• Өөр өөр ажлын ачаалал
  Богино текстийн хүсэлт нь урт хугацааны олон горимтой/код ажиллуулах биш; багцлах, параллель болон хоцрогдлын зорилтууд ашиглалтыг өөрчилдөг [1][2].

• Өөр өөр уур амьсгал ба сүлжээ
  Халуун, хуурай бүс нутагт ууршуулах хөргөлт ≠ сэрүүн, чийглэг бүс нутагт агаар/шингэн хөргөлт. Сүлжээний усны эрчим харилцан адилгүй байдаг [3].

• Нийлүүлэгчийн арга зүй
  Google нь системийн хэмжээнд үйлчлэх аргыг нийтэлсэн; Mistral нь албан ёсны LCA нийтэлсэн. Бусад нь сийрэг аргуудтай цэгэн тооцооллыг санал болгодог. "цагаан цайны аравны нэг" мэдэгдэл гарчиг болсон боловч хил хязгаарын дэлгэрэнгүй мэдээлэлгүйгээр харьцуулах боломжгүй юм [1][3].

• Хөдөлгөөнтэй бай
  усгүй хөргөлтийг туршиж байна ; эдгээрийг нэвтрүүлснээр дээд урсгалын цахилгаан нь усны дохио дамжуулж байсан ч гэсэн талбай дээрх усыг багасгах болно [4].

Хиймэл оюун ухааны усны ул мөрийг бууруулахын тулд та өнөөдөр юу хийж чадах вэ 🌱

1. Загварыг зөв хэмжээтэй болгох
   Жижиг хэмжээтэй, даалгаварт тохируулсан загварууд нь тооцооллыг бага зарцуулж байхдаа нарийвчлалтай байнга таардаг. Мистралын үнэлгээ нь хэмжээ ба ул мөрийн хоорондын хүчтэй хамаарлыг онцолж, захын дүгнэлтийн тоонуудыг нийтэлдэг тул та буулт хийх талаар бодож болно [2].

2. Усны бүс нутгийг сонгох
   Сэрүүн уур амьсгалтай, үр ашигтай хөргөлттэй, кВт.ц тутамд усны эрчим багатай сүлжээтэй бүс нутгийг илүүд үзэх; "цангасан хиймэл оюун ухаан"-ын ажил нь цаг хугацаа, байршлыг харгалзан төлөвлөх нь тусалдаг болохыг харуулж байна [3].

3. 
   Усны хэмнэлттэй цагуудад (сэрүүн шөнө, сүлжээний таатай нөхцөл) зориулсан сургалт/их хэмжээний багцын дүгнэлтийг цаг тухайд нь хуваарилах

4. Ил тод үзүүлэлтүүдийг нийлүүлэгчээсээ асууна уу.
   Шууд хэрэгцээний усны хэмжээ асууна уу . Бодлогын бүлгүүд алимтай харьцуулах боломжтой болгохын тулд заавал ил тод болгохыг шаардаж байна [3].

5. Хөргөлтийн технологи чухал.
   Хэрэв та техник хангамж ажиллуулдаг бол хаалттай гогцоо/чип рүү шууд хөрвүүлэлтийг ; хэрэв та үүлэн дээр ажиллаж байгаа бол усан гэрлийн дизайнд [4][5].

6. Саарал ус ашиглах болон дахин ашиглах сонголтуудыг ашиглах
   Олон кампусууд ундны бус эх үүсвэрийг орлох эсвэл давталт дотор дахин боловсруулах боломжтой; томоохон операторууд цэвэр нөлөөллийг багасгахын тулд усны тэнцвэржүүлэгч эх үүсвэр болон хөргөлтийн сонголтыг тайлбарладаг [5].

Бодит болгох хурдан жишээ (нийтлэг дүрэм биш): зуны дунд үед халуун, хуурай бүс нутгаас хавар сэрүүн, чийглэг бүс рүү шөнийн сургалтын ажлыг шилжүүлэх, мөн оргил ачааллын бус, сэрүүн цагаар ажиллуулах нь талбай дээрх усны хэрэглээ болон талбайгаас гадуурх (сүлжээний) усны эрчмийг өөрчлөх боломжтой. Энэ бол практик, бага драматай ялалтын хуваарь юм [3].

Харьцуулсан хүснэгт: хиймэл оюун ухааны усны зардлыг бууруулах хурдан сонголтууд 🧰

("Үнэ" нь загварын хувьд зөөлөн - байршуулалт нь харилцан адилгүй байдаг.)

Гүнзгий шумбалт: бодлогын бөмбөрийн цохилт улам чангарч байна 🥁

заавал задруулахыг уриалж байгаа бөгөөд ингэснээр худалдан авагчид болон олон нийт зардал, ашгийг үнэлэх боломжтой болно. Зөвлөмжүүдэд хамрах хүрээний тодорхойлолт, талбайн түвшний тайлан, байршлын удирдамж багтсан болно - учир нь харьцуулж болохуйц, байршилд мэдрэмтгий хэмжүүргүйгээр бид харанхуйд маргалдаж байна [3].

Гүнзгий судлах: дата төвүүд бүгд адилхан балгадаггүй 🚰

"Агаарын хөргөлт нь ус ашигладаггүй" гэсэн байнгын домог байдаг. Тийм ч биш. Агаар ихтэй системүүд ихэвчлэн илүү их цахилгаан бөгөөд энэ нь олон бүс нутагт сүлжээнээс нуугдсан усыг усны хөргөлт нь талбай дээрх усны зардлаар цахилгаан болон ялгарлыг бууруулж чаддаг. Том операторууд эдгээр тэнцвэрийг талбай тус бүрээр нь тодорхой тэнцвэржүүлдэг [1][5].

Гүнзгий шумбалт: вирусын талаарх мэдээллийг хурдан бодитоор шалгах 🧪

Та ганцхан асуулт нь "усны сав" эсвэл нөгөө талаас "хэдхэн дусал"-тай тэнцүү гэсэн тод мэдэгдлийг харсан байж магадгүй юм. Илүү сайн байрлал: математиктай даруу байдал . Өнөөгийн найдвартай номын хавтаснууд нь бүрэн хэмжээний нэмэлт зардалтай дундаж үйлдвэрлэлийн асуултын хувьд ~0.26 мл 400 токен туслах хариултын хувьд ~45 мл "цайны халбаганы арван тавны нэг" гэсэн мэдэгдэлд олон нийтийн хил хязгаар/арга байхгүй; үүнийг хотгүйгээр цаг агаарын урьдчилсан мэдээ шиг ханд [1][3].

Жижиг Түгээмэл Асуултууд: Хиймэл оюун ухаан хэр их ус хэрэглэдэг вэ? Дахин хэлэхэд, энгийн англи хэлээр 🗣️

• Тэгэхээр, уулзалт дээр би юу гэж хэлэх ёстой вэ?
  Загвар, урт, хаана явагдахаас хамааран нэг удаагийн дуслаас эхлээд хэдэн балга хүртэл хэлбэлздэг Сургалт нь шалбааг биш, харин усан сангаар явагддаг.” Дараа нь дээр дурдсан нэг эсвэл хоёр жишээг дурдъя.

• Хиймэл оюун ухаан өвөрмөц муу юу?
  Энэ нь өвөрмөц төвлөрөлтэй : өндөр хүчин чадалтай чипүүдийг хамтад нь савласан нь их хэмжээний хөргөлтийн ачааллыг бий болгодог. Гэхдээ хамгийн сайн үр ашгийн технологи хамгийн түрүүнд ирдэг газар бол өгөгдлийн төвүүд юм [1][4].

• Хэрэв бид бүх зүйлийг агаар хөргөлтөд шилжүүлбэл яах вэ?
  талбай дээрх усыг багасгаж болох талбайгаас гадуурх усыг нэмэгдүүлж болно. Нарийн мэргэжлийн операторууд хоёуланг нь жинлэнэ [1][5].

• Ирээдүйн технологийн талаар юу хэлэх вэ?
  Усыг их хэмжээгээр хөргөхөөс зайлсхийх загварууд нь 1-р хүрээний хувьд тоглоомын дүрмийг өөрчлөх болно. Зарим операторууд энэ замаар явж байна; дээд урсгалын цахилгаан нь сүлжээ өөрчлөгдөх хүртэл усны дохиог дамжуулсаар байна [4].

Эцсийн тайлбар - Хэтэрхий урт байна, би уншаагүй байна 🌊

• Даалгавар бүрт: загвар, даалгаврын урт, хаана ажиллахаас хамааран миллилитрээс хэдэн арван миллилитр хүртэл гэж бодоорой Нэг гол стек дээр дундаж даалгавар ~0.26 мл 400 токен хариултын хувьд ~45 мл [1][2].

• Сургалт: сая сая литр ус зарцуулж байгаа нь хуваарь гаргах, байрлуулах, хөргөх технологийг чухал болгож байна [3].

• Юу хийх вэ: зөв хэмжээтэй загварууд, усны бүс нутгийг сонгох, хүнд ажлыг сэрүүн цаг руу шилжүүлэх, усны гэрэлд тэсвэртэй загварыг баталгаажуулсан үйлдвэрлэгчдийг илүүд үзэх, ил тод хил хязгаарыг шаардах [1][3][4][5].

Төгсгөлд нь бага зэрэг алдаатай зүйрлэл байна: Хиймэл оюун ухаан бол цангасан найрал хөгжим юм - аялгуу нь тооцоолсон боловч бөмбөр хөргөж, торны ус шиг байна. Хамтлагийг тохируулбал үзэгчид шүршигч асаалгүйгээр хөгжмийг сонссоор л байна. 🎻💦

Лавлагаа

1. Google Cloud блог - Google-ийн хиймэл оюун ухаан хэр их эрчим хүч ашигладаг вэ? Бид тооцооллыг хийсэн (арга зүй + ~0.26 мл дундаж зардлын санал, бүтэн хэрэглээний зардал). Холбоос
   (Техникийн баримт бичгийн PDF хувилбар: Google-ийн хэмжээнд хиймэл оюун ухааныг хүргэх байгаль орчинд үзүүлэх нөлөөллийг хэмжих нь .) Холбоос

2. Mistral AI - Хиймэл оюун ухааны дэлхийн байгаль орчны стандартад оруулсан хувь нэмэр (ADEME/Carbone 4-тэй LCA; ~281,000 м³ сургалт + эрт хэрэглээ; 400 токен тутамд ~45 мл , захын дүгнэлт). Холбоос

3. Ли нар - Хиймэл оюун ухааныг “цангах”-ыг багасгах нь: Хиймэл оюун ухааны загваруудын усны нууц ул мөрийг илрүүлэх, шийдвэрлэх нь сая сая литрийг сургах , цаг хугацаа, байршлыг харгалзан хуваарь гаргах, хэрэглээг бууруулах). Холбоос

4. Майкрософт - Дараагийн үеийн дата төвүүд хөргөлтөд тэг ус хэрэглэдэг (тодорхой газруудад усгүй хөргөлтийг чиглүүлсэн шууд чип рүү чиглэсэн загварууд). Холбоос

5. Google Дата Төвүүд - Тогтвортой үйл ажиллагаа явуулж байна (сайт тус бүрийн хөргөлтийн тэнцвэр; нөхөн сэргээгдсэн/саарал усыг оруулаад тайлагнах болон дахин ашиглах; сайтын түвшний өдөр тутмын хэрэглээний ердийн хэмжээ). Холбоос

Албан ёсны AI Assistant дэлгүүрээс хамгийн сүүлийн үеийн хиймэл оюун ухааныг олоорой

Бидний тухай