Энэ нэр томьёо сүрлэг сонсогдож байгаа ч зорилго нь маш практик юм: хиймэл оюун ухааны системийг хүмүүсийн итгэж болохуйц болгох, учир нь тэдгээр нь хүний эрхийг хүндэтгэх, хор хөнөөлийг бууруулах, бодит ашиг тусыг хүргэх байдлаар зохион бүтээгдэж, бүтээгдэж, ашиглагддаг. Энэ бол голдуу л юм.
Үүний дараа унших дуртай нийтлэлүүд:
🔗 AI дахь MCP гэж юу вэ
Модульчлагдсан тооцооллын протокол болон түүний хиймэл оюун ухаан дахь үүргийг тайлбарлана.
🔗 Edge AI гэж юу вэ
Ирмэг дээр суурилсан боловсруулалт нь орон нутгийн хиймэл оюун ухааны шийдвэрийг хэрхэн хурдан гаргах боломжийг олгодог болохыг авч үзнэ.
🔗 Генератив AI гэж юу вэ
Текст, зураг болон бусад анхны контентыг үүсгэдэг загваруудыг танилцуулдаг.
🔗 Агент AI гэж юу вэ
Зорилгод чиглэсэн шийдвэр гаргах чадвартай бие даасан хиймэл оюун ухааны агентуудыг тайлбарладаг.
Хиймэл оюун ухааны ёс зүй гэж юу вэ? Энгийн тодорхойлолт 🧭
Хиймэл оюун ухааны ёс зүй гэдэг нь хүний эрх, шударга ёс, хариуцлага, ил тод байдал, нийгмийн сайн сайхныг хангахын тулд хиймэл оюун ухааныг хэрхэн зохион бүтээх, хөгжүүлэх, байршуулах, удирдахыг удирддаг зарчим, үйл явц, хамгаалалтын багц юм. Үүнийг алгоритмуудын өдөр тутмын замын дүрэм гэж бодоорой - алдаа гарч болзошгүй хачин жигтэй өнцгүүдийг нэмэлт шалгалтаар шалгадаг.
Дэлхийн хэмжээний шалгуур үзүүлэлтүүд үүнийг баталж байна: ЮНЕСКО-гийн Зөвлөмж нь хүний эрх, хүний хяналт, шударга ёсыг төвлөрүүлж, ил тод байдал, шударга ёсыг хэлэлцээрийн бус зүйл гэж үздэг [1]. Эдийн засгийн хамтын ажиллагаа, хөгжлийн байгууллагын хиймэл оюун ухааны зарчмууд нь бодлого, инженерийн багуудад практик хэвээр үлдэхийн зэрэгцээ ардчилсан үнэт зүйлсийг хүндэтгэдэг найдвартай
Товчхондоо, хиймэл оюун ухааны ёс зүй бол ханан дээрх зурагт хуудас биш юм. Энэ бол багууд эрсдэлийг урьдчилан таамаглах, найдвартай байдлыг батлах, хүмүүсийг хамгаалахад ашигладаг дасгалын ном юм. NIST-ийн хиймэл оюун ухааны эрсдэлийн удирдлагын хүрээ нь ёс зүйг хиймэл оюун ухааны амьдралын мөчлөгийн туршид идэвхтэй эрсдэлийн удирдлагатай адил авч үздэг [3].
Сайн хиймэл оюун ухааны ёс зүйг юу бүрдүүлдэг вэ ✅
Шулуухан хувилбар нь энд байна. Сайн хиймэл оюун ухааны ёс зүйн хөтөлбөр:
-
Бодит инженерийн дадал зуршил, тоймыг хөтөлдөг бодлого болох ламинат биш, харин амьдрал дээр хэрэгждэг
-
Асуудлыг тодорхойлохоос эхэлдэг - хэрэв зорилго буруу байвал шударга ёсны шийдэл үүнийг аврахгүй.
-
Шийдвэрүүдийг баримтжуулах - яагаад энэ өгөгдөл, яагаад энэ загвар, яагаад энэ босго.
-
Контекст бүхий тестүүд - зөвхөн ерөнхий нарийвчлалаар бус, дэд бүлгээр нь үнэлэх (NIST-ийн гол сэдэв) [3].
-
Өөрийн ажлыг харуулдаг - загвар картууд, өгөгдлийн багцын баримт бичиг, хэрэглэгчийн тодорхой харилцаа холбоо [5].
-
Хариуцлагыг бий болгодог - нэрлэсэн эзэмшигчид, өргөжих замууд, аудит хийх боломжтой байдал.
-
хоорондох тэнцвэрийг ил тод байлгаж , тэмдэглэсэн.
-
Хуультай холбогддог - хяналтыг нөлөөллийн дагуу хэмждэг эрсдэлд суурилсан шаардлагууд (ЕХ-ны хиймэл оюун ухааны тухай хуулийг үзнэ үү) [4].
Хэрэв энэ нь бүтээгдэхүүний ганц шийдвэрийг өөрчлөхгүй бол энэ нь ёс зүй биш, харин чимэглэл юм.
Том асуултын хурдан хариулт: Хиймэл оюун ухааны ёс зүй гэж юу вэ? 🥤
Энэ бол багууд давтагдах гурван асуултанд хэрхэн хариулдаг вэ гэдэг юм:
-
Бид үүнийг барих ёстой юу?
-
Хэрэв тийм бол бид хохирлыг хэрхэн бууруулж, үүнийг хэрхэн батлах вэ?
-
Хэрэв бүх зүйл буруугаар эргэвэл хэн хариуцлага хүлээх вэ, дараа нь юу болох вэ?
Уйтгартай практик. Гайхалтай нь хэцүү. Үнэ цэнэтэй.
60 секундын мини кейс (практик туршлага) 📎
Финтек баг залилангийн загварыг маш сайн нарийвчлалтайгаар илгээдэг. Хоёр долоо хоногийн дараа тодорхой бүс нутгийн хууль ёсны төлбөрөөс үүдэлтэй дэмжлэгийн тасалбарын өсөлт хаагддаг. Дэд бүлгийн тоймд тухайн бүс нутгийн хэрэглэгчдийг эргүүлэн татах нь дунджаас 12 оноогоор бага байгааг харуулж байна. Баг нь өгөгдлийн хамрах хүрээг дахин нягталж, илүү сайн төлөөлөлтэй дахин сургаж, өөрчлөлт, мэдэгдэж буй анхааруулга, хэрэглэгчийн давж заалдах замыг баримтжуулсан шинэчилсэн загварын картыг . Нарийвчлал нэг оноог бууруулдаг; хэрэглэгчийн итгэл нэмэгддэг. Энэ бол эрсдэлийн удирдлага , хэрэглэгчийн хүндэтгэл бөгөөд зурагт хуудас биш юм [3][5].
Таны үнэхээр ашиглаж болох хэрэгслүүд болон хүрээнүүд 📋
(Жижигхэн хачин зүйлсийг санаатай оруулсан - энэ бол бодит амьдрал.)
| Хэрэгсэл эсвэл Хүрээ | Үзэгчид | Үнэ | Яагаад ажилладаг вэ | Тэмдэглэл |
|---|---|---|---|---|
| NIST AI эрсдэлийн удирдлагын тогтолцоо | Бүтээгдэхүүн, эрсдэл, бодлого | Үнэгүй | Тодорхой функцууд - Удирдах, Газрын зураг авах, Хэмжих, Удирдах - Багуудыг нэгтгэх | Сайн дурын, өргөн хэрэглэгддэг [3] |
| OECD AI зарчмууд | Гүйцэтгэх захирлууд, бодлого боловсруулагчид | Үнэгүй | Найдвартай хиймэл оюун ухааны үнэт зүйлс + практик зөвлөмжүүд | Бат бөх засаглал хойд од [2] |
| Европын Холбооны хиймэл оюун ухааны тухай хууль (эрсдэлд суурилсан) | Хууль эрх зүй, нийцлийн байдал, технологийн захирлууд | Үнэгүй* | Эрсдэлийн түвшин нь өндөр нөлөөллийн хэрэглээнд пропорциональ хяналтыг тогтоодог | Дагаж мөрдөх зардал харилцан адилгүй байдаг [4] |
| Загварын картууд | Машины удирдлагын инженерүүд, Ерөнхий менежерүүд | Үнэгүй | Загвар гэж юу болох, юу хийдэг, хаана бүтэлгүйтдэгийг стандартчилдаг | Баримт бичиг + жишээнүүд байдаг [5] |
| Өгөгдлийн багцын баримт бичиг ("өгөгдлийн хуудас") | Мэдээлэл судлаачид | Үнэгүй | Өгөгдлийн гарал үүсэл, хамрах хүрээ, зөвшөөрөл болон эрсдэлийг тайлбарладаг | Үүнийг хоол тэжээлийн шошго мэт харьц |
Гүнзгий шумбалт 1 - Зарчмууд онолд биш, хөдөлгөөнд оршдог 🏃
-
Шударга байдал - Хүн ам зүйн болон нөхцөл байдлын дагуу гүйцэтгэлийг үнэлэх; нийт үзүүлэлтүүд нь хохирлыг нуудаг [3].
-
Хариуцлага - Өгөгдөл, загвар болон байршуулалтын шийдвэрийн эзэмшигчдийг оноох. Шийдвэрийн бүртгэлийг хөтлөх.
-
Ил тод байдал - Загварын картуудыг ашиглах; хэрэглэгчдэд шийдвэр хэр автоматжсан, ямар арга хэмжээ авах боломжтойг хэлэх [5].
-
Хүний хяналт - Хүмүүсийг өндөр эрсдэлтэй шийдвэр гаргахад бодит зогсоох/хүчин чадалтайгаар (ЮНЕСКО-гийн тодорхой давуу эрхээр) оруулах [1].
-
Нууцлал ба аюулгүй байдал - Өгөгдлийг багасгах, хамгаалах; дүгнэлтийн хугацааны алдагдал болон дараагийн буруу ашиглалтыг анхаарч үзээрэй.
-
Буяны үйлс - Зөвхөн цэвэр KPI-ууд биш, нийгмийн ашиг тусыг харуулах (OECD энэ тэнцвэрийг тогтоодог) [2].
Жижигхэн хазайлт: багууд заримдаа бодит хор хөнөөлийн асуултыг үл тоомсорлож, метрикийн нэрсийн талаар хэдэн цагаар маргалддаг. Инээдтэй нь инээдтэй юм.
Гүнзгий шумбалт 2 - Эрсдэл ба тэдгээрийг хэрхэн хэмжих вэ 📏
Ёс зүйн хиймэл оюун ухаан нь хохирлыг хэмжигдэхүйц эрсдэл гэж үзэхэд тодорхой болдог:
-
Контекст зураглал - Шууд болон шууд бусаар хэн нөлөөлөлд өртсөн бэ? Систем ямар шийдвэр гаргах эрх мэдэлтэй вэ?
-
Өгөгдлийн тохиромжтой байдал - Төлөөлөл, шилжилт, шошгололтын чанар, зөвшөөрлийн замууд.
-
Загварын зан төлөв - Түгээлтийн шилжилт, сөргөлдөөний өдөөлт эсвэл хортой оролтын үед бүтэлгүйтлийн горимууд.
-
Нөлөөллийн үнэлгээ - Хүнд байдал × магадлал, бууруулах арга хэмжээ болон үлдэгдэл эрсдэл.
-
Амьдралын мөчлөгийн хяналт - Асуудлын хүрээг тодорхойлохоос эхлээд байршуулалтын дараах хяналт хүртэл.
NIST үүнийг багууд дугуйг дахин зохион бүтээхгүйгээр хэрэгжүүлж болох дөрвөн функцэд хуваадаг: Удирдах, Зураглах, Хэмжих, Удирдах [3].
Гүнзгий шумбалт 3 - Хожим нь таныг аврах баримт бичиг 🗂️
Хоёр даруухан эд өлгийн зүйл ямар ч уриа лоозонгоос илүү ихийг хийдэг:
-
Загварын картууд - Загвар нь юунд зориулагдсан, хэрхэн үнэлсэн, хаана бүтэлгүйтсэн, ёс зүйн асуудлууд болон анхааруулга - богино, бүтэцтэй, уншигдахуйц [5].
-
Өгөгдлийн багцын баримт бичиг (“өгөгдлийн хуудас”) - Энэ өгөгдөл яагаад байгаа, хэрхэн цуглуулсан, хэн төлөөлүүлсэн, мэдэгдэж буй цоорхой, санал болгож буй хэрэглээ.
Хэрэв та загвар өмсөгч яагаад буруу авирласныг зохицуулагч байгууллага эсвэл сэтгүүлчдэд тайлбарлах шаардлагатай болсон бол эдгээрийг бичсэн өнгөрсөн өөртөө талархах болно. Ирээдүйд та өнгөрсөн үеийнхээ кофег худалдаж авах болно.
Гүнзгий шумбалт 4 - Үнэхээр чухал засаглал 🧩
-
Эрсдэлийн түвшинг тодорхойлох - Өндөр нөлөөллийн хэрэглээний тохиолдлуудыг илүү гүнзгий нягтлан шалгахын тулд эрсдэлд суурилсан санааг зээлэх [4].
-
Тайзны хаалга - Хүлээн авах, хөөргөхөөс өмнө болон дараа ёс зүйн хяналт. Арван таван хаалга биш. Гурав нь хангалттай.
-
Үүрэг хуваарилалт - Хөгжүүлэгчид санал тавьж, эрсдэлийн түншүүд хянаж, удирдагчид гарын үсэг зурна. Тодорхой шугамууд.
-
Ослын хариу арга хэмжээ - Загварыг хэн түр зогсоодог, хэрэглэгчдэд хэрхэн мэдэгдэх, засвар үйлчилгээ ямар байх вэ.
-
Бие даасан аудит - Дотоод аудит эхлээд; гадаад аудит шаардлагатай үед.
-
Сургалт ба урамшуулал - Шагнал олгох нь асуудлыг нуун дарагдуулах биш, харин эрт илрүүлэх явдал юм.
Шударга байцгаая: хэрэв засаглал хэзээ ч үгүй бол энэ нь засаглал биш юм.
Гүнзгий шумбалт 5 - Хүмүүсийг дагалдах хэрэгсэл болгон биш, харин эргэн тойронд нь харж байна 👩⚖️
Хүний хяналт бол шалгах хайрцаг биш - энэ бол дизайны сонголт юм.
-
Хүмүүс шийдвэр гаргах үед - Ялангуяа өндөр эрсдэлтэй үр дүнгийн хувьд хүн хянаж үзэх ёстой тодорхой босго.
-
Шийдвэр гаргагчдад тайлбарлах боломжтой байх - Хүнд шалтгаан болон тодорхойгүй байдлыг .
-
Хэрэглэгчийн санал хүсэлтийн давталт - Хэрэглэгчдэд автоматжуулсан шийдвэрүүдийг эсэргүүцэх эсвэл засах боломжийг олгоно.
-
Хүртээмж - Өөр өөр хэрэглэгчид ойлгож, үнэхээр ашиглаж болох интерфэйсүүд.
ЮНЕСКО-гийн удирдамж энд энгийн: хүний нэр төр, хяналт бол гол зүйл болохоос сонголт биш юм. Хүн аюул учрахаас өмнө хөндлөнгөөс оролцох боломжтой байхаар бүтээгдэхүүнийг бүтээгээрэй [1].
Хажуугийн тэмдэглэл - Дараагийн хил хязгаар: нейротехнологи 🧠
Хиймэл оюун ухаан нь мэдрэлийн технологитой огтлолцдог тул сэтгэцийн нууцлал болон сэтгэлгээний эрх чөлөө нь бодит дизайны асуудлууд болж хувирдаг. Үүнтэй адил арга зүйн гарын авлага хэрэгжинэ: эрх төвтэй зарчим [1], найдвартай загварын засаглал [2], өндөр эрсдэлтэй хэрэглээнд зориулсан пропорциональ хамгаалалт [4]. Хашлага барихын оронд эрт барих.
Багууд хэрхэн хариулдаг вэ ? Хиймэл оюун ухааны ёс зүй гэж юу вэ? Практик дээр - ажлын урсгал 🧪
Энэ энгийн давталтыг туршаад үзээрэй. Энэ нь төгс биш ч гэсэн маш үр дүнтэй:
-
Зорилгын шалгалт - Бид хүний ямар асуудлыг шийдэж байгаа вэ, хэн ашиг тусаа өгөх эсвэл эрсдэл хүлээх вэ?
-
Контекст зураг - Оролцогч талууд, орчин, хязгаарлалт, мэдэгдэж буй аюулууд.
-
Өгөгдлийн төлөвлөгөө - Эх сурвалж, зөвшөөрөл, төлөөллийн байдал, хадгалалт, баримтжуулалт.
-
Аюулгүй байдлын загвар - Эсрэг тэсрэг туршилт, улаан багийн ажиллагаа, загвараар нууцлал.
-
Шударга ёсыг тодорхойлох - Тухайн салбарт тохирсон хэмжүүрийг сонгох; буулт хийх баримтжуулах.
-
Тайлбарлах төлөвлөгөө - Юуг, хэнд, хэрхэн тайлбарлах вэ, ашиг тусыг нь баталгаажуулах.
-
Загварын карт - Эртхэн ноороглож, шинэчлэх явцдаа шинэчилж, нээлтийн үеэр нийтлээрэй [5].
-
Засаглалын хаалга - Хариуцлагатай эзэмшигчидтэй эрсдэлийн хяналт; NIST-ийн функцийг ашиглан бүтэц [3].
-
Хөөргөлтийн дараах хяналт - Хэмжүүр, шилжилтийн сэрэмжлүүлэг, ослын тойм, хэрэглэгчийн давж заалдах хүсэлт.
Хэрэв алхам хүнд санагдаж байвал эрсдэлд оруулаарай. Энэ бол заль мэх. Зөв бичгийн алдаа засах ботыг хэт их инженерчлэх нь хэнд ч тус болохгүй.
Ёс зүй ба дагаж мөрдөх байдал - халуун ногоотой боловч зайлшгүй ялгаа 🌶️
-
Ёс зүй асуудаг: энэ нь хүмүүст зөв зүйл мөн үү?
-
Дагаж мөрдөх дүрэм асууна: энэ нь дүрмийн номтой нийцэж байна уу?
Танд хоёулаа хэрэгтэй. Европын Холбооны эрсдэлд суурилсан загвар нь таны дагаж мөрдөх гол тулгуур болж болох ч таны ёс зүйн хөтөлбөр хамгийн бага хэмжээнээс давж гарах ёстой - ялангуяа тодорхойгүй эсвэл шинэ хэрэглээний тохиолдолд [4].
Хурдан (алдаатай) зүйрлэл: дуулгавартай байдал бол хашаа; ёс зүй бол хоньчин. Хашаа таныг хязгаарт байлгадаг; хоньчин таныг зөв замаар явуулдаг.
Нийтлэг алдаанууд - тэгээд юу хийх хэрэгтэй вэ 🚧
-
Сул тал: ёс зүйн театр - нөөц бололцоогүй гоёмсог зарчмууд.
Засвар: цаг хугацаа, эзэмшигчид болон хяналтын цэгүүдийг хянахад зориулах. -
Сул тал: хохирлыг дунджаар тооцох - ерөнхий үзүүлэлтүүд нь дэд бүлгийн бүтэлгүйтлийг нуудаг.
Засах арга: үргэлж холбогдох дэд популяциудаар үнэлнэ [3]. -
Сул тал: аюулгүй байдлын дүр эсгэсэн нууцлал - хэрэглэгчдээс дэлгэрэнгүй мэдээллийг нуух.
Засвар: боломжууд, хязгаарлалтууд болон нөөцийг энгийн хэлээр илчлэх [5]. -
Алдаа: төгсгөлд нь аудит хийх - ажиллуулахаас өмнө асуудлыг олох.
Засвар: зүүн тийш шилжүүлэх-дизайн болон өгөгдөл цуглуулах ёс зүйн хэсгийг хийх. -
Сул тал: дүгнэлтгүйгээр шалгах хуудас - маягтуудыг дагах, утга учиргүй.
Засвар: загваруудыг мэргэжлийн хяналт болон хэрэглэгчийн судалгаатай хослуулах.
Түгээмэл асуултууд - танаас ямар ч байсан асуух зүйлс ❓
Хиймэл оюун ухааны ёс зүй нь инновацийн эсрэг үү?
Үгүй. Энэ бол ашигтай инноваци юм. Ёс зүй нь сөрөг хариу үйлдэл эсвэл хууль эрх зүйн асуудал үүсгэдэг нэг талыг барьсан систем шиг үхлийн төгсгөлөөс зайлсхийдэг. OECD-ийн бүтэц нь аюулгүй инновацийг илт дэмждэг [2].
Хэрэв манай бүтээгдэхүүн эрсдэл багатай бол бидэнд энэ хэрэгтэй юу?
Тийм ээ, гэхдээ хөнгөн. Пропорциональ хяналтыг ашигла. Энэхүү эрсдэлд суурилсан санаа нь Европын Холбооны арга барилд стандарт байдаг [4].
Ямар баримт бичиг зайлшгүй шаардлагатай вэ?
Хамгийн багадаа: үндсэн өгөгдлийн багцын өгөгдлийн багцын баримт бичиг, загвар бүрийн загварын карт, гаргасан шийдвэрийн бүртгэл [5].
Хиймэл оюун ухааны ёс зүйг хэн эзэмшдэг вэ?
Хүн бүр зан төлөвийг эзэмшдэг ч бүтээгдэхүүн, өгөгдлийн шинжлэх ухаан, эрсдэлийн багуудад нэрлэсэн үүрэг хариуцлага хэрэгтэй. NIST-ийн функцууд нь сайн тулгуур юм [3].
Хэтэрхий урт байна, уншаагүй байна - Эцсийн тайлбар 💡
Хэрэв та энэ бүхнийг товчхон уншсан бол гол санаа нь энд байна: Хиймэл оюун ухааны ёс зүй гэж юу вэ? Энэ бол хүмүүсийн итгэж болох хиймэл оюун ухааныг бий болгох практик сахилга бат юм. ЮНЕСКО-гийн эрх төвтэй үзэл бодол болон Эдийн засгийн хамтын ажиллагаа, хөгжлийн байгууллагын найдвартай хиймэл оюун ухааны зарчмуудыг өргөнөөр хүлээн зөвшөөрсөн удирдамжид тулгуурлана уу. Үүнийг хэрэгжүүлэхийн тулд NIST-ийн эрсдэлийн хүрээг ашиглаж, сонголтоо уншигдахуйц болгохын тулд загвар карт, өгөгдлийн багцын баримт бичгийг хамт илгээнэ үү. Дараа нь хэрэглэгчид, оролцогч талууд, өөрийн хяналтыг сонсож, тохируулга хийсээр байгаарай. Ёс зүй бол ганцаараа хийгддэг зүйл биш; энэ бол зуршил юм.
Тийм ээ, заримдаа та мэдээжийн хэрэг алдаагаа засах болно. Энэ бол бүтэлгүйтэл биш. Энэ бол ажил. 🌱
Лавлагаа
-
ЮНЕСКО - Хиймэл оюун ухааны ёс зүйн зөвлөмж (2021). Холбоос
-
OECD - Хиймэл оюун ухааны зарчмууд (2019). Холбоос
-
NIST - Хиймэл оюун ухааны эрсдэлийн удирдлагын хүрээ (AI RMF 1.0) (2023) (PDF). Холбоос
-
EUR-Lex - 2024/1689 оны (Хиймэл оюун ухааны тухай хууль) журам. Холбоос
-
Митчелл болон бусад. - “Загварын тайлангийн загвар картууд” (ACM, 2019). Холбоос