AI-д зориулсан програм хангамжийн хүрээ гэж юу вэ?

AI-д зориулсан програм хангамжийн хүрээ гэж юу вэ?

Бат бөх бүтэц нь тэрхүү эмх замбараагүй байдлыг ашиглах боломжтой ажлын урсгал болгон хувиргадаг. Энэхүү гарын авлагад бид хиймэл оюун ухаанд зориулсан програм хангамжийн хүрээ гэж юу болох , энэ нь яагаад чухал болох, өөрийгөө эргэлзэлгүйгээр нэгийг нь хэрхэн сонгох талаар таван минут тутамд задлах болно. Кофе уух; табуудыг нээлттэй байлга. ☕️

Үүний дараа унших дуртай нийтлэлүүд:

🔗 AI-ийн эсрэг машин сургалт гэж юу вэ
Машин сургалтын систем ба хиймэл оюун ухааны үндсэн ялгааг ойлгоорой.

🔗 Тайлбарлах боломжтой AI гэж юу вэ
Тайлбарлахуйц хиймэл оюун ухаан нь нарийн төвөгтэй загваруудыг хэрхэн ил тод, ойлгомжтой болгодог болохыг олж мэд.

🔗 Хүн дүрст робот AI гэж юу вэ
Хүнтэй төстэй роботууд болон интерактив зан үйлийг бий болгодог хиймэл оюун ухааны технологийг судлаарай.

🔗 AI дахь мэдрэлийн сүлжээ гэж юу вэ
Мэдрэлийн сүлжээ нь хүний ​​тархийг хэрхэн дуурайж, мэдээлэл боловсруулдаг болохыг олж мэд.

AI-д зориулсан програм хангамжийн хүрээ гэж юу вэ? Богино хариулт 🧩

AI-д зориулсан програм хангамжийн хүрээ нь танд машин суралцах эсвэл гүнзгий сургалтын загваруудыг илүү хурдан бөгөөд найдвартай бүтээх, сургах, үнэлэх, ашиглахад тусалдаг номын сан, ажиллах цагийн бүрэлдэхүүн хэсэг, хэрэгсэл, конвенцийн бүтэцтэй багц юм. Энэ нь нэг номын сангаас илүү юм. Үүнийг танд дараахь зүйлийг өгдөг үзэл бодолтой тулгуур гэж бодоорой.

  • Тензор, давхарга, тооцоологч эсвэл дамжуулах хоолойн үндсэн хийсвэрлэл

  • Автоматаар ялгах, оновчтой математикийн цөм

  • Мэдээллийн оролтын дамжуулах хоолой ба урьдчилан боловсруулах хэрэгслүүд

  • Сургалтын гогцоо, хэмжүүр, хяналтын цэг

  • GPU болон тусгай техник хангамж зэрэг хурдасгууруудтай хамтран ажиллах

  • Савлах, үйлчлэх, заримдаа туршилтыг хянах

Хэрэв номын сан бол багаж хэрэгсэл бол хүрээ нь гэрэлтүүлэг, вандан сандал, шошго үйлдвэрлэгч бүхий семинар юм. 🔧

хиймэл оюун ухаанд зориулсан програм хангамжийн хүрээ гэж хэд хэдэн удаа давтахыг харах болно Энэ бол зориудаар юм, учир нь ихэнх хүмүүс багаж хэрэгслийн төөрдөг байшинд төөрсөн үедээ энэ асуултыг бичдэг.

 

Хиймэл оюун ухааны програм хангамжийн хүрээ

AI-д зориулсан сайн програм хангамжийн хүрээг юу болгодог вэ? ✅

Хэрэв би эхнээс нь эхлэхийг хүсч байсан богино жагсаалт энд байна:

  • Бүтээмжтэй эргономик - цэвэр API, эрүүл саруул тохиргоо, алдааны мессежүүд

  • Гүйцэтгэл - хурдан цөм, холимог нарийвчлал, график эмхэтгэл эсвэл JIT

  • Экосистемийн гүн - загвар зангилаа, заавар, урьдчилан бэлтгэсэн жин, интеграцчилал

  • Зөөврийн чадвар - ONNX, гар утас эсвэл захын ажиллах хугацаа, чингэлэгт ээлтэй байдал зэрэг экспортын замууд

  • Ажиглалт - хэмжүүр, бүртгэл, профайл, туршилтыг хянах

  • Өргөтгөх чадвар - олон GPU, хуваарилагдсан сургалт, уян хатан үйлчилгээ

  • Засаглал - аюулгүй байдлын онцлогууд, хувилбарууд, удам угсаа, бичиг баримтууд нь таныг сүнслэгээр нөлөөлдөггүй

  • Нийгэмлэг ба урт наслалт - идэвхтэй асран хамгаалагчид, бодит үрчлэлт, найдвартай замын зураглал

Эдгээр хэсгүүдийг товших үед та цавуу код бага бичиж, илүү бодит AI хийдэг. Гол нь аль нь вэ. 🙂

Таны таарах хүрээний төрлүүд 🗺️

Бүх хүрээ бүгдийг хийхийг оролддоггүй. Ангилалаар бодоорой:

  • Гүн сургалтын тогтолцоо : тензор үйлдлийн систем, автодифф, мэдрэлийн сүлжээ

    • PyTorch, TensorFlow, JAX

  • Сонгодог ML хүрээ : дамжуулах хоолой, функцын хувиргалт, тооцоологч

    • scikit-learn, XGBoost

  • Загварын төвүүд ба NLP стекүүд : урьдчилан бэлтгэгдсэн загварууд, токенизаторууд, нарийн тааруулах

    • Тэврэлдсэн царайтай трансформерууд

  • Үйлчлэх, дүгнэлт гаргах хугацаа : оновчтой байршуулалт

    • ONNX Runtime, NVIDIA Triton Inference Server, Ray Serve

  • MLOps ба амьдралын мөчлөг : мөрдөх, савлах, дамжуулах хоолой, ML-д зориулсан CI

    • MLflow, Kubeflow, Apache Airflow, Prefect, DVC

  • Edge & mobile : жижиг ул мөр, техник хангамжид ээлтэй

    • TensorFlow Lite, Core ML

  • Эрсдэл ба засаглалын тогтолцоо : код биш үйл явц ба хяналт

    • NIST AI эрсдэлийн удирдлагын тогтолцоо

Баг бүрт тохирох ганц стек байхгүй. Зүгээр дээ.

Харьцуулалтын хүснэгт: нэг дороос түгээмэл сонголтууд 📊

Бодит амьдрал эмх замбараагүй байдаг тул жижиг гажуудлыг оруулсан. Үнэ өөрчлөгддөг ч олон үндсэн хэсэг нь нээлттэй эх сурвалж юм.

Хэрэгсэл / Стек Хамгийн сайн нь Үнэтэй Яагаад ажилладаг вэ
PyTorch Судлаачид, Питоник хөгжүүлэгчид Нээлттэй эх сурвалж Динамик графикууд нь байгалийн юм шиг санагддаг; асар том нийгэмлэг. 🙂
TensorFlow + Керас Өргөн цар хүрээтэй үйлдвэрлэл, хөндлөн платформ Нээлттэй эх сурвалж График горим, TF үйлчилгээ, TF Lite, хатуу хэрэгсэл.
JAX Эрчим хүчний хэрэглэгчид, функц хувиргах Нээлттэй эх сурвалж XLA эмхэтгэл, цэвэр математикийн анхны мэдрэмж.
scikit-сур Сонгодог ML, хүснэгтэн өгөгдөл Нээлттэй эх сурвалж Дамжуулах хоолой, хэмжигдэхүүн, тооцоологч API нь зүгээр л товшиж.
XGBoost Бүтцийн өгөгдөл, ялалтын суурь үзүүлэлтүүд Нээлттэй эх сурвалж Тогтмол нэмэгдэл нь ихэвчлэн хождог.
Тэврэлдсэн царайтай трансформерууд Hub хандалт бүхий NLP, алсын хараа, тархалт Ихэнхдээ нээлттэй Урьдчилан бэлтгэгдсэн загварууд + токенизаторууд + баримт бичиг, хөөх.
ONNX ажиллах цаг Зөөврийн байдал, холимог хүрээ Нээлттэй эх сурвалж Нэг удаа экспортлох, олон backend дээр хурдан ажиллуулах. [4]
MLflow Туршилтыг хянах, савлах Нээлттэй эх сурвалж Дахин давтагдах чадвар, загварын бүртгэл, энгийн API.
Рэй + Рэй үйлчлэх Түгээмэл сургалт + үйлчлэх Нээлттэй эх сурвалж Python-ийн ажлын ачааллыг хэмжих; бичил багцаар үйлчилдэг.
NVIDIA Triton Өндөр хүчин чадалтай дүгнэлт Нээлттэй эх сурвалж Олон хүрээ, динамик багц, GPU.
Kubeflow Kubernetes ML дамжуулах хоолой Нээлттэй эх сурвалж K8-ууд дээр төгсгөл хүртэл, заримдаа үймээн самуунтай боловч хүчтэй.
Агаарын урсгал эсвэл Префект Таны сургалтын эргэн тойронд найрал хөгжим Нээлттэй эх сурвалж Хуваарь гаргах, дахин оролдох, харагдах байдал. Зүгээр ажиллаж байна.

Хэрэв та нэг мөр хариулт авахыг хүсч байвал: Судалгаанд зориулсан PyTorch, урт хугацааны үйлдвэрлэлд зориулсан TensorFlow, хүснэгтэд зориулсан scikit-learn, зөөврийн хувьд ONNX Runtime, хянах зориулалттай MLflow. Шаардлагатай бол би дараа нь буцна.

Бүрээсний доор: фреймворкууд таны математикийг хэрхэн ажиллуулдаг вэ ⚙️

Ихэнх гүнзгий сургалтын тогтолцоо нь гурван том зүйлийг холбодог:

  1. Тензорууд - төхөөрөмжийн байршил, өргөн нэвтрүүлгийн дүрэм бүхий олон хэмжээст массив.

  2. Autodiff - градиентийг тооцоолох урвуу горимын ялгаа.

  3. Гүйцэтгэлийн стратеги - хүсэл эрмэлзэлтэй горим, график горим, JIT эмхэтгэл.

  • PyTorch нь өгөгдмөл байдлаар ажиллахад бэлэн байдаг ба torch.compile эмхэтгэж, үйл ажиллагааг нэгтгэж, кодыг хамгийн бага өөрчлөлтөөр хурдасгах боломжтой. [1]

  • TensorFlow нь өгөгдмөлөөр идэвхтэй ажилладаг бөгөөд SavedModel экспортод шаардлагатай бөгөөд гүйцэтгэлийг ихэвчлэн сайжруулдаг Python-г зөөврийн өгөгдлийн урсгалын график болгохын тулд tf.function [2]

  • JAX нь jit , grad , vmap , болон pmap гэх мэт хувиргах боломжтой хувиргуудад тулгуурлан хурдатгал болон параллелизмын хувьд XLA-аар хөрвүүлдэг. [3]

Энд л гүйцэтгэл оршино: цөм, хайлуулах, санах ойн зохион байгуулалт, холимог нарийвчлал. Ид шид биш - зүгээр л ид шидийн мэт харагддаг инженерчлэл. ✨

Сургалт ба дүгнэлт: хоёр өөр спорт 🏃♀️🏁

  • Сургалт нь дамжуулах чадвар, тогтвортой байдлыг чухалчилдаг. Та сайн ашиглалт, градиент масштаб, тархсан стратегийг хүсч байна.

  • Дүгнэлт нь хоцрогдол, зардал, давхцал зэргийг хөөж гаргадаг. Та багцлах, тоо хэмжээ тогтоох, заримдаа операторын нэгдэл хийхийг хүсч байна.

Харилцан ажиллах чадвар нь энд чухал юм:

  • ONNX нь нийтлэг загвар солилцооны форматын үүрэг гүйцэтгэдэг; ONNX Runtime нь процессорууд, GPU болон бусад хурдасгуурууд дээр олон эх сурвалжийн хүрээнээс загваруудыг ажиллуулдаг бөгөөд ердийн үйлдвэрлэлийн стекүүдэд зориулсан хэлний холболттой. [4]

Тоо хэмжээ, тайрах, нэрэх нь ихэвчлэн том ялалтыг өгдөг. Заримдаа инээдэмтэй том - энэ нь хуурч байгаа юм шиг санагддаг, гэхдээ тийм биш юм. 😉

MLOps тосгон: үндсэн хүрээнээс гадуур 🏗️

Хамгийн сайн тооцооллын график ч гэсэн замбараагүй амьдралын мөчлөгийг аврахгүй. Та эцэст нь хүсэх болно:

  • Туршилтыг хянах, бүртгэл : MLflow ашиглан параметр, хэмжүүр, олдворыг бүртгээрэй; бүртгэлээр дамжуулан сурталчлах

  • Дамжуулах хоолой ба ажлын урсгалын зохион байгуулалт : Kubernetes дээрх Kubeflow эсвэл Airflow, Prefect зэрэг ерөнхий мэргэжилтнүүд

  • Өгөгдлийн хувилбар : DVC нь өгөгдөл болон загваруудыг кодтой зэрэгцүүлэн хадгалдаг

  • Контейнер ба байршуулалт : Урьдчилан таамаглах боломжтой, өргөтгөх боломжтой орчинд зориулсан Docker зургууд болон Kubernetes

  • Загварын төвүүд : урьдчилан бэлтгэж, дараа нь нарийн тааруулах нь ногоон талбайг илүү олон удаа давдаг

  • Хяналт : загварууд үйлдвэрлэлд гарсны дараа хоцролт, шилжилт, чанарыг шалгана

Хурдан хээрийн анекдот: жижиг цахим худалдааны баг өдөр бүр "дахин нэг туршилт" хийхийг хүссэн боловч аль гүйлт нь аль функцийг ашигласан болохыг санахгүй байв. Тэд MLflow болон энгийн "зөвхөн бүртгэлээс сурталчлах" дүрмийг нэмсэн. Гэнэт долоо хоног тутмын тоймууд нь археологи биш харин шийдвэрийн тухай байв. Загвар нь хаа сайгүй харагдаж байна.

Харилцан ажиллах чадвар, зөөвөрлөх чадвар: сонголтоо нээлттэй байлга 🔁

Түгжээ чимээгүйхэн мөлхөж байна. Дараах зүйлсийг төлөвлөх замаар үүнээс зайлсхий.

  • Экспортын замууд : ONNX, SavedModel, TorchScript

  • Ажиллах цагийн уян хатан байдал : ONNX Runtime, TF Lite, гар утас эсвэл захад зориулсан Core ML

  • Контейнержуулалт : Docker дүрс бүхий урьдчилан таамаглах боломжтой шугам хоолой

  • Төвийг сахисан байх нь : PyTorch, TensorFlow болон ONNX-ийг зэрэгцүүлэн байршуулах нь таныг үнэнч байлгах болно.

Үйлчлэх давхаргыг солих эсвэл жижиг төхөөрөмжид зориулж загварыг эмхэтгэх нь дахин бичих биш харин төвөг учруулах ёстой.

Техник хангамжийн хурдатгал ба масштаб: нулимсгүйгээр хурдан болгоорой ⚡️

  • Өндөр оновчтой цөмүүдийн ачаар GPU нь

  • Нэг GPU гүйцэхгүй байх үед тархсан сургалт

  • Холимог нарийвчлал нь зөв ашиглах үед хамгийн бага нарийвчлалтайгаар санах ой болон цагийг хэмнэдэг.

Заримдаа хамгийн хурдан код бол таны бичээгүй код байдаг: урьдчилан бэлтгэгдсэн загваруудыг ашиглаж, нарийн тохируулаарай. Ноцтой. 🧠

Засаглал, аюулгүй байдал, эрсдэл: зөвхөн бичиг цаасны ажил биш 🛡️

Бодит байгууллагуудад AI тээвэрлэх нь:

  • Удам угсаа : өгөгдөл хаанаас ирсэн, түүнийг хэрхэн боловсруулсан, ямар загварын хувилбар ажиллаж байна

  • Дахин давтагдах чадвар : детерминист бүтээц, бэхлэгдсэн хамаарал, олдворын хадгалалт

  • Ил тод байдал ба баримтжуулалт : загвар карт ба өгөгдлийн мэдэгдэл

  • Эрсдэлийн удирдлага : NIST AI эрсдэлийн удирдлагын тогтолцоо нь амьдралын мөчлөгийн туршид найдвартай хиймэл оюун ухааны системийг зураглах, хэмжих, удирдах практик замын зураглалыг өгдөг. [5]

Эдгээр нь зохицуулалттай домайнуудад нэмэлт биш юм. Тэдний гадна байсан ч төөрөгдүүлсэн тасалдал, эвгүй уулзалтаас сэргийлдэг.

Хэрхэн сонгох вэ: хурдан шийдвэр гаргах хяналтын хуудас 🧭

Хэрэв та таван таб руу ширтсэн хэвээр байвал дараахыг туршаад үзээрэй:

  1. Үндсэн хэл ба багийн суурь

    • Python-н анхны судалгааны баг: PyTorch эсвэл JAX-аас эхэл

    • Холимог судалгаа, үйлдвэрлэл: Керастай TensorFlow бол найдвартай бооцоо юм

    • Сонгодог аналитик эсвэл хүснэгтийн фокус: scikit-learn plus XGBoost

  2. Байршуулах зорилт

    • Масштабтай үүлэн дүгнэлт: ONNX Runtime эсвэл Triton, чингэлэгтэй

    • Мобайл эсвэл суулгагдсан: TF Lite эсвэл Core ML

  3. Хэмжээний хэрэгцээ

    • Ганц GPU эсвэл ажлын станц: аливаа томоохон DL хүрээ ажилладаг

    • Тархсан сургалт: суулгасан стратегийг шалгах эсвэл Ray Train-г ашиглах

  4. MLOps төлөвшил

    • Эхний өдрүүд: хянах зориулалттай MLflow, савлах зориулалттай Docker зургууд

    • Өсөн нэмэгдэж буй баг: дамжуулах хоолойд Kubeflow эсвэл Airflow/Prefect-ийг нэмнэ үү

  5. Зөөврийн шаардлага

    • ONNX экспорт болон төвийг сахисан үйлчилгээний давхаргыг төлөвлө

  6. Эрсдлийн байрлал

    • NIST-ийн удирдамжтай нийцүүлэх, баримт бичгийн удам угсаа, хяналтыг хэрэгжүүлэх [5]

AI-д зориулсан програм хангамжийн хүрээ гэж юу вэ гэсэн асуулт хэвээр байвал хяналтын хуудасны зүйлсийг уйтгартай болгодог сонголтуудын багц юм. Уйтгарлах нь сайн.

Нийтлэг таамаглал ба бага зэргийн домог 😬

  • Төөрөгдөл: нэг хүрээ бүгдийг удирддаг. Бодит байдал: та холилдох болно. Энэ бол эрүүл.

  • Төөрөгдөл: бэлтгэлийн хурд бол бүх зүйл юм. Дүгнэлтийн зардал, найдвартай байдал нь ихэвчлэн илүү чухал байдаг.

  • Гайхалтай: өгөгдөл дамжуулах шугамыг мартаж байна. Муу оролт нь сайн загварыг шингээдэг. Зөв ачигч болон баталгаажуулалтыг ашиглах.

  • Гайхалтай: туршилтын хяналтыг алгасаж байна. Аль гүйлт хамгийн сайн байсныг та мартах болно. Ирээдүй - та уурлах болно.

  • Төөрөгдөл: зөөврийн чадвар нь автомат юм. Экспортууд заримдаа захиалгат үйлдлүүд дээр тасардаг. Эрт турших.

  • Гайхалтай: Хэтэрхий удалгүй хэт инженерчлэгдсэн MLOps. Үүнийг энгийн байлгаад дараа нь өвдөлт гарч ирэхэд найрал хөгжим нэмнэ.

  • Бага зэрэг алдаатай зүйрлэл : загвараа унадаг дугуйн дуулга шиг төсөөлөөрэй. Загварлаг биш гэж үү? Магадгүй. Гэхдээ засмал зам нь сайн уу гэж хэлэхэд та үүнийг санах болно.

Фреймворкуудын талаарх жижиг асуултууд ❓

А: Framework нь номын сан эсвэл платформоос ялгаатай юу?

  • Номын сан : таны дуудсан тодорхой функцууд эсвэл загварууд.

  • Хүрээ : бүтэц, амьдралын мөчлөгийг тодорхойлж, номын санд залгагддаг.

  • Платформ : инфра, UX, тооцоо, удирдлагатай үйлчилгээ бүхий илүү өргөн орчин.

Асуулт: Би хиймэл оюун ухааныг хүрээгүйгээр бүтээж болох уу?

Техникийн хувьд тийм. Практикт энэ нь блог нийтлэлд зориулж өөрийн хөрвүүлэгчийг бичихтэй адил юм. Та чадна, гэхдээ яагаад.

Асуулт: Надад сургалтын болон үйлчлэх хүрээ хэрэгтэй юу?

Ихэнхдээ тийм. PyTorch эсвэл TensorFlow дээр сургах, ONNX руу экспортлох, Triton эсвэл ONNX Runtime-аар үйлчлэх. Оёдол нь зориудаар байдаг. [4]

А: Эрх мэдэл бүхий шилдэг туршлагууд хаана амьдардаг вэ?

NIST-ийн эрсдэлийн практикт зориулсан AI RMF; архитекторын баримт бичиг; үүл үйлчилгээ үзүүлэгчдийн ML гарын авлага нь хөндлөн шалгалт хийхэд тустай. [5]

Ойлгомжтой болгохын тулд түлхүүр үг хэллэгийн товч тойм 📌

Хүмүүс ихэвчлэн хиймэл оюун ухаанд зориулсан програм хангамжийн хүрээ гэж юу болохыг , учир нь тэд судалгааны код болон байршуулах боломжтой зүйлсийн хоорондох цэгүүдийг холбохыг хичээдэг. Тэгэхээр практикт хиймэл оюун ухаанд зориулсан програм хангамжийн хүрээ гэж юу вэ Энэ бол өгөгдлийн дамжуулах хоолой, техник хангамж, засаглалтай сайхан тоглохын зэрэгцээ цөөн тооны гайхшралтай загваруудыг сургах, үнэлэх, ашиглах боломжийг олгодог тооцоолол, хийсвэрлэл, конвенцийн багц юм. Тэнд гурван удаа хэлэв. 😅

Эцсийн тайлбар - Би уншаагүй дэндүү удаж байна 🧠➡️🚀

  • Хиймэл оюун ухаанд зориулсан програм хангамжийн хүрээ нь танд үзэл бодолтой шатыг өгдөг: тензор, автомат ялгах, сургалт, байршуулалт, багаж хэрэгсэл.

  • Хэл, байршуулах зорилт, цар хүрээ, экосистемийн гүнээр сонго.

  • Стекийг холихыг хүлээж байна: сургахад PyTorch эсвэл TensorFlow, үйлчлэх ONNX Runtime эсвэл Triton, хянахын тулд MLflow, Airflow эсвэл Prefect зохион байгуулах. [1][2][4]

  • Зөөврийн байдал, ажиглалт, эрсдэлийн дадлагад эрт жигнэх. [5]

  • Тийм ээ, уйтгартай хэсгүүдийг тэврээрэй. Уйтгартай нь тогтвортой, тогтвортой хөлөг онгоц юм.

Сайн хүрээ нь нарийн төвөгтэй байдлыг арилгадаггүй. Танай баг илүү хурдан хөдөлж, цөөн хоромтой байх боломжтой. 🚢

Лавлагаа

[1] PyTorch - torch.compile -ийн танилцуулга (албан ёсны баримтууд): дэлгэрэнгүй

[2] TensorFlow - tf.function (албан ёсны гарын авлага) ашиглан илүү сайн гүйцэтгэлтэй дэлгэрэнгүй уншина уу

[3] JAX - Хурдан эхлэл: JAX дээр хэрхэн бодох вэ (албан ёсны баримт бичиг): дэлгэрэнгүй уншина уу

[4] ONNX Runtime - ONNX Runtime for Inferencing (албан ёсны баримтууд): дэлгэрэнгүй унших

[5] NIST - AI эрсдэлийн удирдлагын тогтолцоо (AI RMF 1.0) : дэлгэрэнгүй

Албан ёсны AI Assistant дэлгүүрээс хамгийн сүүлийн үеийн хиймэл оюун ухааныг олоорой

Бидний тухай

Блог руу буцах