AI Bias гэж юу вэ?

AI хаа сайгүй байдаг - чимээгүйхэн ангилж, оноож, санал болгож байна. Энэ нь зарим бүлгийг урагшлуулж, заримыг нь ардаа орхих хүртэл ашигтай юм. Хэрэв та хиймэл оюун ухааны хазайлт гэж юу вэ , яагаад энэ нь өнгөлсөн загварт ч гарч ирдэг, мөн үүнийг ямар ч хүчин чармайлтгүйгээр хэрхэн бууруулах талаар сонирхож байгаа бол энэ гарын авлага танд зориулагдсан болно.

Үүний дараа унших дуртай нийтлэлүүд:

🔗 GPT нь юу гэсэн үг вэ?
GPT нэр болон гарал үүслийн тухай энгийн англи хэл дээрх задаргаа.

🔗 Урьдчилан таамаглах хиймэл оюун ухаан гэж юу вэ
Урьдчилан таамаглах загварууд нь түүхэн болон шууд өгөгдлөөс үр дүнг хэрхэн таамагладаг.

🔗 Нээлттэй эхийн AI гэж юу вэ
Тодорхойлолт, үндсэн ашиг тус, бэрхшээл, лиценз, төслийн жишээ.

🔗 AI-г бизнестээ хэрхэн оруулах вэ
Алхам алхмаар замын зураг, багаж хэрэгсэл, ажлын урсгал, өөрчлөлтийн менежментийн чухал зүйлс.

Шуурхай тодорхойлолт: AI Bias гэж юу вэ?

AI системийн гаралт нь тодорхой хүмүүс эсвэл бүлгүүдэд системтэйгээр ашиг тустай эсвэл сөрөг нөлөө үзүүлэхийг AI-ийн хазайлт Энэ нь ихэвчлэн тэнцвэргүй өгөгдөл, хэмжилтийн явцуу сонголт эсвэл системийг барьж, ашиглаж буй өргөн хүрээнээс үүдэлтэй байдаг. Хязгаарлалт нь үргэлж хор хөнөөлтэй байдаггүй ч хяналтгүй орхивол хор хөнөөлийг хурдан нэмэгдүүлэх боломжтой. [1]

Ашигтай ялгаа: хэвийх нь шийдвэр гаргахад гажуудал, харин ялгаварлан гадуурхах нь дэлхий дээр гажуудал үүсгэж болзошгүй хортой нөлөө юм. Та бүх гажуудлыг үргэлж арилгаж чадахгүй, гэхдээ энэ нь шударга бус үр дагаварт хүргэхгүйн тулд үүнийг зохицуулах ёстой. [2]

Яагаад өрөөсгөл ойлголтыг ойлгох нь таныг илүү сайн болгодог 💡

Хачирхалтай хүлээж авах, тийм үү? Гэхдээ хиймэл оюун ухаан гэж юу болохыг таныг дараах болгодог:

• Загварын хувьд илүү сайн - та эмзэг таамаглалыг эрт илрүүлэх болно.

• Удирдлагын хувьд илүү сайн - та гараараа даллахын оронд арилжаа наймааг баримтжуулах болно.

• Удирдагчид, зохицуулагчид, нөлөөлөлд өртсөн хүмүүстэй харилцахдаа илүү сайн

Мөн шударга ёсны хэмжүүр, бодлогын хэлийг сурах нь хожим цаг хугацаа хэмнэдэг. Үнэнийг хэлэхэд, энэ нь аялалын өмнө газрын зураг худалдаж авахтай адил юм - төгс бус, гэхдээ чичиргээнээс хамаагүй дээр. [2]

Зэрлэг байгальд харагдах хиймэл оюун ухааны хэвшмэл байдлын төрлүүд 🧭

Хязгаарлалт нь хиймэл оюун ухааны амьдралын мөчлөгийн туршид илэрдэг. Нийтлэг хэв маягийн багууд:

• Өгөгдлийн түүвэрлэлтийн хазайлт - зарим бүлгүүд дутуу эсвэл дутуу байна.

• Шошгоны хэвийсэн байдал - түүхэн шошго нь хүний ​​гадуурхах эсвэл шуугиантай дүгнэлтийг кодлодог.

• Хэмжилтийн хазайлт - таны үнэлдэг зүйлийг олж авдаггүй прокси.

• Үнэлгээний хазайлт - тестийн багц нь тодорхой популяци эсвэл контекстийг орхигдуулдаг.

• Байршуулах хазайлт - буруу тохиргоонд ашигласан лабораторийн сайн загвар.

• Системийн болон хүний ​​буруу хандлага - нийгмийн өргөн хүрээний хэв маяг, багийн сонголтууд технологид нэвтэрч байна.

Стандартын байгууллагаас гаргасан оюун санааны хэрэгцээт загвар нь хэвийх үзлийг хүн, техникийн болон системийн ангилалд ангилж, зөвхөн загварын өөрчлөлтийг бус нийгэм-техникийн [1]

Хаана хэвийсэн байдал 🔍

1. Асуудлыг тодорхойлох - зорилтыг хэт нарийн тодорхойлж, бүтээгдэхүүнээр үйлчлэх ёстой хүмүүсийг хасдаг.

2. Өгөгдлийн эх сурвалж - түүхэн өгөгдөл нь ихэвчлэн өнгөрсөн үеийн тэгш бус байдлыг кодлодог.

3. Онцлогын сонголтууд - эмзэг шинж чанаруудын прокси нь эмзэг шинж чанаруудыг дахин үүсгэж болно.

4. Сургалт - зорилтууд нь тэгш бус харин дундаж нарийвчлалыг оновчтой болгодог.

5. Туршилт - хэрвээ таны зогсолтын багц хазайсан бол таны хэмжүүрүүд мөн адил байна.

6. Хяналт - хэрэглэгчид эсвэл контекстийн өөрчлөлт нь асуудлыг дахин оруулж болно.

Зохицуулагчид зөвхөн загварт тохирсон хугацаанд биш, энэ амьдралын мөчлөгийн туршид шударга ёсны эрсдэлийг баримтжуулахыг онцолдог. Энэ бол бүх гарын дасгал юм. [2]

Бид тойрогт орохгүйгээр шударга байдлыг хэрхэн хэмжих вэ? 📏

Тэдгээрийг бүгдийг нь удирдах нэг хэмжүүр байдаггүй. Хэрэглэх тохиолдол болон зайлсхийхийг хүсч буй хор хөнөөлдөө тулгуурлан сонгоно уу.

• Хүн ам зүйн тэгш байдал - сонгон шалгаруулалтын хувь хэмжээ бүлгүүдэд ижил байх ёстой. Хуваарилалтын асуултуудад тохиромжтой, гэхдээ нарийвчлалын зорилготой зөрчилдөж болно. [3]

• Тэнцүүлсэн магадлал - худал эерэг ба жинхэнэ эерэг гэх мэт алдааны түвшин ижил байх ёстой. Алдааны өртөг нь бүлгээр ялгаатай үед ашигтай. [3]

• Шалгалт тохируулга - ижил онооны хувьд үр дүн нь бүлгүүдэд ижил магадлалтай байх ёстой. Оноо хүний ​​шийдвэр гаргахад тустай. [3]

Хэрэгслийн хэрэгсэл нь цоорхой, график, хяналтын самбар зэргийг тооцоолох замаар үүнийг практик болгодог бөгөөд ингэснээр та таамаглахаа болино. [3]

Бодит үр дүнтэй хэвийх үзлийг бууруулах практик аргууд 🛠️

Нэг мөнгөн сум гэхээсээ илүү олон давхаргыг багасгах талаар бодоорой

• Өгөгдлийн аудит ба баяжуулалт - хамрах хүрээний цоорхойг тодорхойлох, хууль ёсны дагуу илүү аюулгүй мэдээлэл цуглуулах, баримт бичгийн дээж авах.

• Дахин жинлэх, дахин дээж авах - хазайлтыг багасгахын тулд сургалтын хуваарилалтыг тохируулна уу.

• Боловсруулалтын явцад тавигдах хязгаарлалтууд - зорилгодоо шударга байдлын зорилгыг нэмж оруулснаар загвар нь харилцан тохиролцоонд шууд суралцдаг.

• Өрсөлдөөнтэй зөрчилдөөн - дотоод дүрслэлээс мэдрэмтгий шинж чанаруудыг урьдчилан таамаглах боломжгүй байхаар загварыг сургах.

• Боловсруулалтын дараах - зохих, хууль ёсны үед бүлэг тус бүрийн шийдвэрийн босго оноог тохируулна.

• Хүний давталт дахь шалгалтууд - тайлбарлах боломжтой хураангуй болон өсөлтийн зам бүхий загваруудыг хослуулах.

AIF360 болон Fairlearn зэрэг нээлттэй эхийн сангууд нь хэмжүүр болон багасгах алгоритмуудыг хоёуланг нь өгдөг. Тэд ид шид биш, гэхдээ тэд танд системтэй эхлэх цэгийг өгөх болно. [5][3]

Хэвийн үзэл чухал байдгийн бодит нотолгоо 📸💳🏥

• Нүүрний шинжилгээ - Өргөн иш татсан судалгаа нь арилжааны систем дэх хүйс, арьсны төрлийн бүлгүүдийн нарийвчлалын томоохон ялгааг баримтжуулж, энэ талбарыг илүү сайн үнэлгээний практик руу түлхэж байна. [4]

• Өндөр эрсдэлтэй шийдвэрүүд (зээл, ажилд авах, орон сууц) - зорилгогүй байсан ч өрөөсгөл үр дүн нь шударга ёс, ялгаварлан гадуурхахын эсрэг үүрэг хариуцлагатай зөрчилдөж болзошгүй. Орчуулга: Та зөвхөн код биш харин эффектийг хариуцдаг. [2]

Практикаас авсан хурдан анекдот: нэрээ нууцалсан ажилд авах шалгалтын үеэр багийнхан техникийн үүрэг гүйцэтгэж буй эмэгтэйчүүдийг эргүүлэн татахад дутагдалтай байгааг олж мэдэв. Энгийн алхмууд - илүү сайн давхраатай хуваах, онцлог шинж чанаруудыг хянах, бүлэг тус бүрийн босго тогтоох - бага зэргийн нарийвчлалтайгаар зөрүүний ихэнх хэсгийг хаасан. Гол нь нэг заль мэх биш байсан; Энэ нь дахин давтагдах хэмжилт-засах-мониторын гогцоо байсан.

Бодлого, хууль, засаглал: "сайн" гэж ямар харагддаг вэ 🧾

Та хуульч байх шаардлагагүй, гэхдээ та шударга, ойлгомжтой байхын тулд дизайн хийх хэрэгтэй:

• Шударга байдлын зарчим - хүн төвтэй үнэт зүйлс, ил тод байдал, амьдралын мөчлөгийн туршид ялгаварлан гадуурхахгүй байх. [1]

• Өгөгдлийн хамгаалалт ба тэгш байдал - хувийн мэдээлэлтэй холбоотой тохиолдолд шударга байдал, зорилгыг хязгаарлах, хувь хүний ​​эрхийг хамгаалах үүрэгтэй; салбарын дүрэм мөн үйлчилж болно. Үүрэг хариуцлагаа эртхэн төлөвлө. [2]

• Эрсдэлийн удирдлага - хиймэл оюун ухааны эрсдлийн өргөн хүрээний хөтөлбөрүүдийн нэг хэсэг болгон хэвийх байдлыг тодорхойлох, хэмжих, хянахын тулд бүтэцлэгдсэн тогтолцоог ашиглана. Үүнийг бичээрэй. Үүнийг хянан үзэх. Давт. [1]

Жижиг сажиг: бичиг цаасны ажил бол зүгээр нэг хүнд суртал биш; энэ нь та үнэхээр ажил хийсэн гэдгээ нотлох

Харьцуулалтын хүснэгт: хиймэл оюун ухааны гажуудлыг дарах хэрэгсэл, хүрээ 🧰📊

бүтэц, хэмжигдэхүүн, хуваалцсан үгсийн санг өгөх замаар өөрийн нөхцөл байдалд хиймэл оюун ухаан гэж юу болох талаар хариулахад тусална

Богино, бага зэрэг санал бодолтой ажлын урсгал 🧪

1. Та зайлсхийхийг хүсч буй хор хөнөөлийг хэлээрэй - хуваарилалтын хохирол, алдааны түвшний зөрүү, нэр хүндийн хохирол гэх мэт.

2. Тухайн хор хөнөөлтэй зэрэгцсэн хэмжигдэхүүнийг сонгоно уу - жишээлбэл, алдааны тэгш байдал чухал бол тэнцүүлэх магадлал. [3]

3. Өнөөдрийн өгөгдөл, загвараар суурь үзүүлэлтүүдийг ажиллуул Шударга байдлын тайланг хадгал.

4. Эхлээд үрэлт багатай засваруудыг туршиж үзээрэй - өгөгдлийг илүү сайн хуваах, босго тогтоох эсвэл дахин жинлэх.

5. Шаардлагатай бол боловсруулалтын хязгаарлалт руу шилжүүлнэ үү

6. Бодит хэрэглэгчдийг төлөөлсөн зогсолтын багцуудыг дахин үнэл

7. Үйлдвэрлэлд хяналт тавих - түгээлтийн өөрчлөлтүүд тохиолддог; хяналтын самбарууд ч мөн адил байх ёстой.

8. Тохиролцоог баримтжуулна уу - шударга байдал нь контекст хамааралтай тул яагаад Y паритетаас Х-г сонгосноо тайлбарлана уу. [1][2]

Зохицуулагчид болон стандартын байгууллагууд амьдралын мөчлөгийн сэтгэлгээг ямар нэг шалтгаанаар онцолж байна. Энэ нь ажилладаг. [1]

Оролцогч талуудад зориулсан харилцааны зөвлөгөө 🗣️

• Зөвхөн математикийн тайлбараас зайлсхий - эхлээд энгийн график, тодорхой жишээг үзүүл.

• Энгийн үг хэллэг ашигла - загвар нь шударга бусаар юу хийж болох, хэнд нөлөөлж болохыг хэл.

• Гадаргуугийн солилцоо - шударга байдлын хязгаарлалт нь нарийвчлалыг өөрчлөх боломжтой; Энэ нь хор хөнөөлийг бууруулдаг бол алдаа биш юм.

• Гэнэтийн тохиолдлуудыг төлөвлөх - асуудал гарвал хэрхэн түр зогсоох эсвэл буцаах.

• Шинжилгээг урих - хөндлөнгийн хяналт эсвэл улаан баг нь сохор толбыг илрүүлдэг. Хэн ч үүнийг хайрладаггүй, гэхдээ энэ нь тусалдаг. [1][2]

Түгээмэл асуултууд: хиймэл оюун ухаан гэж юу вэ? ❓

Хязгаарлалт нь зүгээр л муу өгөгдөл биш гэж үү?
Зөвхөн биш. Өгөгдөл чухал боловч загварчлах сонголт, үнэлгээний загвар, байршуулах нөхцөл, багийн урамшуулал бүгд үр дүнд нөлөөлдөг. [1]

Би гажуудлыг бүрмөсөн арилгаж чадах уу?
Ихэвчлэн үгүй. шударга бус үр дагаварт хүргэхгүйн тулд өрөөсгөл хандлагыг удирдахыг зорьдог [2]

Шударга байдлын аль хэмжүүрийг би ашиглах ёстой вэ?
Хохирлын төрөл болон домайн дүрэмд үндэслэн сонгоно уу. Жишээлбэл, хэрэв худал эерэг нь бүлэгт илүү их хор хөнөөл учруулдаг бол алдааны хувь тэнцүүлэх (тэнцсэн магадлал) дээр анхаарлаа хандуулаарай. [3]

Надад хуулийн хяналт хэрэгтэй юу?
Хэрэв таны систем хүмүүсийн боломж, эрхийг хөндөж байгаа бол тийм ээ. Хэрэглэгч ба тэгш байдалд чиглэсэн дүрэм журам нь алгоритмын шийдвэрт хамаарах бөгөөд та өөрийн ажлыг харуулах хэрэгтэй. [2]

Эцсийн тайлбар: Хэт удаан, уншаагүй 🧾✨

Хэрэв хэн нэгэн танаас хиймэл оюун ухааны гажуудал гэж юу вэ гэж хариулт нь энд байна: энэ нь хиймэл оюун ухааны гаралтын системчилсэн хазайлт нь бодит ертөнцөд шударга бус үр дагаварт хүргэж болзошгүй юм. Та үүнийг контекст тохирсон хэмжигдэхүүнээр оношилж, үечилсэн техникээр багасгаж, бүх амьдралын мөчлөгийн туршид удирдана. Сквош хийх нь ганц ч алдаа биш - энэ бол хэмжилт, баримтжуулалт, даруу байдлыг шаарддаг бүтээгдэхүүн, бодлого, хүмүүсийн асуулт юм. Мөнгөн сум гэж байхгүй гэж би бодож байна ... гэхдээ зохистой хяналтын хуудас, шударга наймаа, илүү сайн зуршил байдаг. Тийм ээ, цөөн хэдэн эможи хэзээ ч гэмтдэггүй. 🙂

Лавлагаа

1. NIST-ийн тусгай хэвлэл 1270 - Хиймэл оюун ухаан дахь гажуудлыг тодорхойлох, удирдах стандартын талаар . Холбоос

2. Их Британийн Мэдээллийн комиссарын алба - Шударга байдал, өрөөсгөл байдал, ялгаварлан гадуурхалтын талаар юу хэлэх вэ? Холбоос

3. Fairlearn Documentation - Шударга байдлын нийтлэг хэмжигдэхүүн (хүн ам зүйн паритет, тэгшитгэсэн магадлал, шалгалт тохируулга). Холбоос

4. Буоламвини, Ж., Гебру, Т. (2018). Хүйсийн сүүдэр: Арилжааны хүйсийн ангилал дахь огтлолцлын нарийвчлалын ялгаа . Өөх* / PMLR. Холбоос

5. IBM Research - AI Fairness 360 (AIF360)-ийг танилцуулж байна . Холбоос

Албан ёсны AI Assistant дэлгүүрээс хамгийн сүүлийн үеийн хиймэл оюун ухааныг олоорой

Бидний тухай