Хиймэл оюун ухааны хэвийлт гэж юу вэ?

Хиймэл оюун ухаан хаа сайгүй байдаг - чимээгүйхэн ангилж, оноо өгч, санал болгодог. Энэ нь зарим бүлгүүдийг урагш түлхэж, заримыг нь ардаа орхих хүртэл тохиромжтой. Хэрэв та хиймэл оюун ухааны гажуудал гэж юу вэ , яагаад энэ нь өнгөлсөн загваруудад ч гарч ирдэг, гүйцэтгэлийг бууруулалгүйгээр үүнийг хэрхэн бууруулах талаар гайхаж байсан бол энэ гарын авлага танд зориулагдсан болно.

Үүний дараа таны унших дуртай нийтлэлүүд:

🔗 GPT гэдэг нь юу гэсэн үг вэ
GPT нэр болон гарал үүслийн талаарх энгийн англи хэл дээрх тайлбар.

🔗 Урьдчилан таамаглах хиймэл оюун ухаан гэж юу вэ
Урьдчилан таамаглах загварууд нь түүхэн болон бодит өгөгдлөөс үр дүнг хэрхэн урьдчилан таамагладаг вэ.

🔗 Нээлттэй эхийн хиймэл оюун ухаан гэж юу вэ
Тодорхойлолт, гол ашиг тус, бэрхшээл, лиценз, төслийн жишээ.

🔗 Бизнестээ хиймэл оюун ухааныг хэрхэн нэвтрүүлэх вэ
Алхам алхмаар замын зураг, хэрэгслүүд, ажлын урсгал болон өөрчлөлтийн удирдлагын үндсэн зүйлс.

Товч тодорхойлолт: хиймэл оюун ухааны хэвийлт гэж юу вэ?

Хиймэл оюун ухааны гажуудал гэдэг нь хиймэл оюун ухааны системийн гаралт нь тодорхой хүмүүс эсвэл бүлгүүдэд системтэйгээр давуу эсвэл сул тал үзүүлэхийг хэлнэ. Энэ нь ихэвчлэн тэнцвэргүй өгөгдөл, нарийн хэмжилтийн сонголтууд эсвэл системийг бүтээж, ашиглаж буй өргөн хүрээтэй нөхцөл байдлаас үүдэлтэй байдаг. Гажуудал нь үргэлж хорлонтой байдаггүй ч хяналтгүй орхивол хор хөнөөлийг хурдан нэмэгдүүлж болзошгүй юм. [1]

Хэрэгтэй ялгаа: нэг талыг баримтлах нь шийдвэр гаргах явцад гарч буй гажуудал бол ялгаварлан гадуурхалт нь гажуудлын дэлхийд учруулж болох хор хөнөөл юм. Та бүх гажуудлыг үргэлж арилгаж чадахгүй ч шударга бус үр дагаварт хүргэхгүйн тулд үүнийг зохицуулах ёстой. [2]

Яагаад нэг талыг баримтлахыг ойлгох нь таныг илүү сайн болгодог вэ 💡

Хачирхалтай нь, тийм үү? Гэхдээ хиймэл оюун ухааны хэвийлт гэж юу болохыг танд дараах зүйлийг хийхэд тусална:

• Дизайн хийхдээ илүү сайн - та эмзэг таамаглалыг эрт илрүүлэх болно.

• Засаглалд илүү сайн - та буулт хийхдээ гараараа даллахын оронд баримтжуулах болно.

• Удирдагчид, зохицуулагчид болон нөлөөлөлд өртсөн хүмүүстэй илүү сайн яриа өрнүүлдэг

Түүнчлэн, шударга ёсны хэмжүүр болон бодлогын хэлийг сурах нь хожим цаг хэмнэдэг. Үнэнийг хэлэхэд энэ нь замын аяллын өмнө газрын зураг худалдаж авахтай адил юм - төгс бус ч гэсэн мэдрэмжээс хамаагүй дээр. [2]

Байгальд харагдах хиймэл оюун ухааны хэвийлтүүдийн төрлүүд 🧭

Хиймэл оюун ухааны амьдралын мөчлөгийн туршид алдаа гарч ирдэг. Багууд дараах нийтлэг хэв маягтай тулгардаг:

• Өгөгдлийн түүвэрлэлтийн алдаа - зарим бүлгүүд дутуу төлөөлөлтэй эсвэл байхгүй байна.

• Шошгоны нэг талыг баримтлах байдал - түүхэн шошго нь өрөөсгөл ойлголт эсвэл хүний ​​​​шуугиантай дүгнэлтийг кодчилдог.

• Хэмжилтийн алдаа - таны үнэхээр үнэлдэг зүйлийг харуулдаггүй прокси.

• Үнэлгээний алдаа - тестийн багцууд тодорхой популяци эсвэл нөхцөл байдлыг алдаж байна.

• Байршуулалтын хэвийлт - буруу орчинд ашигласан сайн лабораторийн загвар.

• Системчилсэн болон хүний ​​​​ялгаварлан гадуурхалт - өргөн хүрээтэй нийгмийн хэв маяг болон багийн сонголтууд технологид нэвтэрч байна.

Стандартын байгууллагуудаас гаргасан ашигтай сэтгэцийн загвар нь хэвийлтийг хүний, техникийн болон системийн ангилалд хувааж, зөвхөн загварын тохируулга хийхээс гадна нийгэм-техникийн

Хэтэрхий ялгаварлан гадуурхалт нь хоолойд сэмхэн орж ирдэг газар 🔍

1. Асуудлын хүрээг тодорхойлох - зорилтот түвшинг хэт нарийн тодорхойлсноор та бүтээгдэхүүн үйлчлэх ёстой хүмүүсийг хасдаг.

2. Өгөгдлийн эх сурвалж - түүхэн өгөгдөл нь ихэвчлэн өнгөрсөн үеийн тэгш бус байдлыг кодчилдог.

3. Онцлог сонголтууд - мэдрэмтгий шинж чанаруудын прокси нь мэдрэмтгий шинж чанаруудыг дахин бүтээж чадна.

4. Сургалт - зорилтууд нь тэгш бус байдлыг бус, харин дундаж нарийвчлалыг оновчтой болгодог.

5. Тест - хэрэв таны хадгалах багц гажуудсан бол таны үзүүлэлтүүд ч бас гажуудсан байна.

6. Хяналт - хэрэглэгчид эсвэл контекст дэх өөрчлөлтүүд нь асуудлыг дахин үүсгэж болзошгүй.

Зохицуулагчид зөвхөн загварт тохирох үед биш, харин энэ амьдралын мөчлөгийн туршид шударга ёсны эрсдэлийг баримтжуулахыг онцолж байна. Энэ бол бүх хүний ​​оролцоотой дасгал юм. [2]

Тойроглолгүйгээр шударга ёсыг хэрхэн хэмжих вэ? 📏

Бүгдийг нь хэмжих нэг хэмжүүр байхгүй. Хэрэглэх тохиолдол болон зайлсхийхийг хүсч буй хор хөнөөлдөө үндэслэн сонгоорой.

• Хүн ам зүйн тэгш байдал - сонгон шалгаруулалтын түвшин бүлгүүдийн хооронд ижил байх ёстой. Хуваарилалтын асуултуудад сайн боловч нарийвчлалын зорилтуудтай зөрчилдөж болзошгүй. [3]

• Тэнцвэржүүлсэн магадлал - хуурамч эерэг ба жинхэнэ эерэг гэх мэт алдааны түвшин ижил төстэй байх ёстой. Алдааны өртөг бүлгээс хамааран өөр өөр байх үед ашигтай. [3]

• Тохируулга - ижил онооны хувьд үр дүн нь бүлгүүдэд ижил магадлалтай байх ёстой. Оноо нь хүний ​​шийдвэрийг чиглүүлэхэд тустай. [3]

Хэрэгслийн хэрэгсэл нь зай завсар, график болон хяналтын самбарыг тооцоолсноор үүнийг практик болгодог тул та таахаас сэргийлж чадна. [3]

Үнэхээр үр дүнтэй алдааг багасгах практик аргууд 🛠️

Ганцхан сайн зүйлийн оронд давхарласан бууруулах арга хэмжээнүүдийг бодоорой

• Өгөгдлийн аудит ба баяжуулалт - хамрах хүрээний цоорхойг тодорхойлох, хууль ёсны тохиолдолд аюулгүй мэдээлэл цуглуулах, баримт бичгийн дээж авах.

• Дахин жинлэх ба дахин түүвэрлэх - гажуудлыг багасгахын тулд сургалтын тархалтыг тохируулах.

• Боловсруулалтын явцад үүсэх хязгаарлалтууд - загвар нь буултуудыг шууд сурахын тулд зорилгодоо шударга ёсны зорилгыг нэмнэ.

• Эсэргүүцлийн маргаан - загварыг мэдрэмтгий шинж чанаруудыг дотоод дүрслэлээс урьдчилан таамаглах боломжгүй байдлаар сургах.

• Боловсруулалтын дараах үе шат - тохиромжтой бөгөөд хууль ёсны үед бүлэг тус бүрийн шийдвэрийн босгыг тохируулах.

• Хүний давталт дахь шалгалтууд - тайлбарлах боломжтой хураангуй болон өргөтгөх замтай хос загварууд.

AIF360 болон Fairlearn зэрэг нээлттэй эхийн сангууд нь хэмжигдэхүүн болон бууруулах алгоритмуудыг хоёуланг нь хангадаг. Эдгээр нь ид шид биш ч гэсэн танд системчилсэн эхлэлийн цэгийг өгөх болно. [5][3]

Нэгэнт ялгаварлан гадуурхалт чухал гэдгийг бодит амьдрал дээр нотолж байна 📸💳🏥

• Нүүрний шинжилгээ - өргөнөөр иш татсан судалгаагаар арилжааны систем дэх хүйс болон арьсны төрлийн бүлгүүдийн нарийвчлалын ялгаа их байгааг баримтжуулсан бөгөөд энэ салбарыг илүү сайн үнэлгээний практик руу түлхэж байна. [4]

• Өндөр эрсдэлтэй шийдвэрүүд (зээл, ажилд авах, орон сууц) - санаа зорилгогүй байсан ч гэсэн нэг талыг барьсан үр дүн нь шударга ёс, ялгаварлан гадуурхалтын эсрэг үүрэг хариуцлагатай зөрчилдөж болзошгүй. Орчуулга: та зөвхөн код биш, үр дагаварт хариуцлага хүлээнэ. [2]

Практикаас авсан товч түүх: нэрээ нууцалсан ажилд авах шалгалтын үеэр баг техникийн албан тушаалд ажиллаж буй эмэгтэйчүүдийн эргэн дуудлагын зөрүүг илрүүлжээ. Илүү сайн давхарласан хуваалт, онцлог шинж чанарын тойм, бүлэг тус бүрийн босго хэмжээ зэрэг энгийн алхмууд нь бага зэргийн нарийвчлалтай буулт хийснээр зөрүүний ихэнх хэсгийг нөхсөн. Гол нь ганцхан заль мэх биш, харин давтагдах хэмжилт-багасгалт-хяналтын давталт байсан.

Бодлого, хууль, засаглал: "сайн" гэж юу вэ 🧾

Та хуульч байх шаардлагагүй ч шударга ёс, тайлбарлах боломжтой байдлыг хангахын тулд төлөвлөх хэрэгтэй

• Шударга ёсны зарчим - хүн төвтэй үнэт зүйлс, ил тод байдал, амьдралын мөчлөгийн туршид ялгаварлан гадуурхахгүй байх. [1]

• Өгөгдлийн хамгаалалт ба тэгш байдал - хувийн мэдээлэлтэй холбоотой тохиолдолд шударга ёс, зорилгын хязгаарлалт, хувь хүний ​​эрхийн талаарх үүрэг хүлээгээрэй; салбарын дүрэм журам ч мөн хэрэгжиж болно. Үүрэг хариуцлагаа эртнээс төлөвлөөрэй. [2]

• Эрсдэлийн удирдлага - Хиймэл оюун ухааны өргөн хүрээтэй эрсдэлийн хөтөлбөрүүдийн нэг хэсэг болгон алдааг тодорхойлох, хэмжих, хянахын тулд бүтэцлэгдсэн хүрээг ашиглах. Үүнийг бич. Хян. Давт. [1]

Жижигхэн зүйлийг дурдахад: бичиг цаасны ажил бол зүгээр л хүнд суртал биш; хэрэв хэн нэгэн асуувал та үнэхээр ажлаа хийсэн гэдгээ батлах

Харьцуулсан хүснэгт: хиймэл оюун ухааны хэвийлтийг намжаах хэрэгслүүд ба хүрээ 🧰📊

бүтэц, хэмжүүр, хуваалцсан үгсийн санг өгснөөр таны нөхцөл байдалд хиймэл оюун ухааны хэвийлт гэж юу болохыг хариулахад тусална

Богинохон, бага зэрэг санал бодолтой ажлын урсгал 🧪

1. Та ямар хор хөнөөлөөс зайлсхийхийг хүсч байгаагаа тодорхойл - хуваарилалтын хор хөнөөл, алдааны түвшний зөрүү, нэр төрд учирсан хохирол гэх мэт.

2. Тухайн хор хөнөөлтэй зэрэгцсэн хэмжүүрийг сонгоно уу - жишээлбэл, алдааны тэгш байдал чухал бол тэнцүүлсэн магадлал. [3]

3. Өнөөдрийн өгөгдөл болон загвараар суурь үзүүлэлтүүдийг ажиллуул

4. Эхлээд үрэлт багатай засваруудыг туршиж үзээрэй - өгөгдлийг илүү сайн хуваах, босго тогтоох эсвэл дахин жинлэх.

5. Шаардлагатай бол боловсруулалтын явцад гарч буй хязгаарлалтууд руу шилжинэ үү

6. Бодит хэрэглэгчдийг төлөөлдөг holdout багцуудыг дахин үнэл

7. Үйлдвэрлэлд хяналт тавих - түгээлтийн өөрчлөлтүүд гардаг; хяналтын самбарууд ч бас өөрчлөгдөх ёстой.

8. Буудалцааг баримтжуулна уу - шударга ёс нь нөхцөл байдлаас хамаардаг тул та яагаад Y-ийн оронд X-ийн тэгш байдлыг сонгосон бэ гэдгийг тайлбарлана уу. [1][2]

Зохицуулагч болон стандартын байгууллагууд амьдралын мөчлөгийн сэтгэлгээг онцолсоор байгаа нь тодорхой шалтгаантай. Энэ нь үр дүнтэй. [1]

Оролцогч талуудад зориулсан харилцаа холбооны зөвлөгөө 🗣️

• Зөвхөн математикийн тайлбараас зайлсхий - эхлээд энгийн хүснэгт болон тодорхой жишээнүүдийг үзүүл.

• Энгийн хэллэг ашиглан загвар нь юуг шударга бус хийж болох, хэнд нөлөөлж болохыг хэлнэ үү.

• Өнгөц буулт - шударга ёсны хязгаарлалт нь нарийвчлалыг өөрчилж болно; хэрэв энэ нь хохирлыг бууруулдаг бол энэ нь алдаа биш юм.

• Төлөвлөгөөний болзошгүй нөхцөл байдал - асуудал гарч ирвэл хэрхэн түр зогсоох эсвэл буцаах вэ.

• Шалгалтыг урих - гадны хяналт эсвэл улаан баг нь харагдахгүй цэгүүдийг илрүүлдэг. Хэн ч үүнд дуртай биш ч тусалдаг. [1][2]

Түгээмэл асуултууд: хиймэл оюун ухааны гажуудал гэж үнэндээ юу вэ? ❓

Нэг талыг баримтлах нь зүгээр л муу өгөгдөл биш гэж үү?
Зөвхөн өгөгдөл ч биш. Өгөгдөл чухал боловч загварчлалын сонголт, үнэлгээний загвар, байршуулалтын нөхцөл байдал, багийн урамшуулал зэрэг нь бүгд үр дүнд нөлөөлдөг. [1]

Би нэг талыг барьцаалж чадах уу?
шударга бус үр дагаварт хүргэхгүйн тулд нэг талыг барьцаалж удирдахыг зорьдог

Шударга ёсны аль хэмжүүрийг ашиглах ёстой вэ?
Хохирлын төрөл болон домэйны дүрмээс хамааран сонгоно уу. Жишээлбэл, хэрэв хуурамч эерэг үр дүн нь бүлэгт илүү их хор хөнөөл учруулж байвал алдааны түвшний паритет (тэнцвэржүүлсэн магадлал) дээр анхаарлаа төвлөрүүл. [3]

Надад хууль эрх зүйн хяналт шаардлагатай юу?
Хэрэв таны систем хүмүүсийн боломж эсвэл эрхийг хөндөж байгаа бол тийм. Хэрэглэгч болон тэгш байдалд чиглэсэн дүрмийг алгоритмын шийдвэрт хэрэглэж болох бөгөөд та өөрийн ажлаа харуулах хэрэгтэй. [2]

Эцсийн тэмдэглэл: Хэтэрхий урт байна, уншаагүй байна 🧾✨

хиймэл оюун ухааны гажуудал гэж юу болохыг асуувал , хамгийн тохиромжтой хариулт нь энд байна: энэ нь бодит ертөнцөд шударга бус нөлөө үзүүлж болох хиймэл оюун ухааны гаралт дахь системчилсэн гажуудал юм. Та үүнийг нөхцөл байдалд тохирсон хэмжүүрээр оношилж, давхарласан техникээр бууруулж, амьдралын мөчлөгийн туршид удирддаг. Энэ бол ганц алдаа биш - энэ бол хэмжилт, баримтжуулалт, даруу байдлыг тогтмол шаарддаг бүтээгдэхүүн, бодлого, хүмүүсийн асуулт юм. Миний бодлоор ямар ч эргэлзээ байхгүй ... гэхдээ зохистой шалгах хуудас, шударга буулт, илүү сайн зуршил байдаг. Тийм ээ, цөөн хэдэн эможи хэзээ ч өвддөггүй. 🙂

Лавлагаа

1. NIST-ийн тусгай хэвлэл 1270 - Хиймэл оюун ухаанд гажуудлыг тодорхойлох, удирдах стандартын зүг . Холбоос

2. Их Британийн Мэдээллийн Комиссарын Газар - Шударга ёс, нэг талыг баримтлах байдал, ялгаварлан гадуурхалтын талаар юу хэлэх вэ? Холбоос

3. Fairlearn баримтжуулалт - Шударга ёсны нийтлэг үзүүлэлтүүд (хүн ам зүйн тэгш байдал, тэнцүүлсэн магадлал, тохируулга). Холбоос

4. Буоламвини, Ж., & Гебру, Т. (2018). Хүйсийн сүүдэр: Арилжааны хүйсийн ангилал дахь огтлолын нарийвчлалын ялгаа . FAT* / PMLR. Холбоос

5. IBM Research - Хиймэл оюун ухааны шударга 360 (AIF360)-ийг танилцуулж байна . Холбоос

Албан ёсны хиймэл оюун ухааны туслах дэлгүүрээс хамгийн сүүлийн үеийн хиймэл оюун ухааныг олоорой

Бидний тухай