Бүтээлч хиймэл оюун ухаан ашигладаг хөгжүүлэгчид ямар хариуцлага хүлээх вэ? [Видео болон асуулт хариулт]

Товч хариулт: Генератив хиймэл оюун ухааныг ашигладаг хөгжүүлэгчид зөвхөн загварын гаралтад төдийгүй бүхэл бүтэн системийн хариуцлагыг хүлээдэг. Хиймэл оюун ухаан нь шийдвэр, код, нууцлал эсвэл хэрэглэгчийн итгэлцэлд нөлөөлөх үед тэд аюулгүй програмуудыг сонгож, үр дүнг баталгаажуулж, өгөгдлийг хамгаалж, хор хөнөөлийг бууруулж, хүмүүс алдааг хянаж, дарж, засах боломжтой эсэхийг баталгаажуулах ёстой.

Гол дүгнэлтүүд:

Баталгаажуулалт: Эх сурвалж, туршилт эсвэл хүний ​​хяналтаар баталгаажуулах хүртэл өнгөлсөн гаралтыг итгэлгүй гэж үзнэ үү.

Өгөгдөл хамгаалах: Шуурхай өгөгдлийг багасгах, танигчдыг устгах, лог, хандалтын хяналт болон нийлүүлэгчдийг хамгаалах.

Шударга байдал: Хэвшмэл ойлголт болон жигд бус бүтэлгүйтлийн хэв маягийг илрүүлэхийн тулд хүн ам зүйн мэдээлэл болон нөхцөл байдлыг бүхэлд нь туршиж үзэх.

Ил тод байдал: Хиймэл оюун ухааны хэрэглээг тодорхой шошголох, түүний хязгаарыг тайлбарлах, хүний ​​хяналт эсвэл давж заалдах хүсэлтийг санал болгох.

Хариуцлага: Ашиглахаас өмнө байршуулалт, осол, хяналт, буцаан олголтын тодорхой эзэмшигчдийг томилно.

Үүний дараа таны унших дуртай нийтлэлүүд:

🔗 Програм хангамж хөгжүүлэгчдэд зориулсан шилдэг хиймэл оюун ухааны хэрэгслүүд: Хиймэл оюун ухаанаар ажилладаг шилдэг код бичих туслахууд
Илүү хурдан, цэвэр хөгжүүлэлтийн ажлын урсгалд хүрэхийн тулд шилдэг хиймэл оюун ухааны код бичих туслахуудыг харьцуулж үзээрэй.

🔗 Хөгжүүлэгчдэд зориулсан бүтээмжийг нэмэгдүүлэх шилдэг 10 хиймэл оюун ухааны хэрэгсэл
Илүү ухаалаг код бичих болон хурдад зориулсан хөгжүүлэгчийн хиймэл оюун ухааны хэрэгслүүдийн жагсаалтад багтсан.

🔗 Яагаад хиймэл оюун ухаан нийгэм болон итгэлцэлд муугаар нөлөөлж болох вэ
Бодит ертөнцийн хор хөнөөлийг тайлбарладаг: ялгаварлан гадуурхалт, хувийн нууц, ажлын байр, буруу мэдээллийн эрсдэл.

🔗 Хиймэл оюун ухаан өндөр эрсдэлтэй шийдвэр гаргахдаа хэт хол явсан уу?
Хиймэл оюун ухаан хэзээ хил хязгаарыг давж гарахыг тодорхойлдог: тагналт, хуурамч мэдээлэл, ятгах, зөвшөөрөлгүй байх.

Яагаад Generative AI ашигладаг хөгжүүлэгчдийн хариуцлага хүмүүсийн бодож байгаагаас илүү чухал вэ

Програм хангамжийн олон алдаа бухимдлыг төрүүлдэг. Товчлуур гацдаг. Хуудас удаан ачаалагддаг. Ямар нэгэн зүйл гацаж, хүн бүр ёолдог.

Хиймэл оюун ухааны үүсэлтэй асуудлууд өөр өөр байж болно. Тэдгээр нь нарийн байж болно.

Загвар нь буруу байсан ч өөртөө итгэлтэй сонсогдож болно. NIST GenAI профайл Энэ нь илэрхий анхааруулах тэмдэггүйгээр алдааг хуулбарлаж чадна. NIST GenAI профайл Хэрэв хайхрамжгүй ашиглавал нууц мэдээллийг илчилж болно. LLM програмуудад зориулсан OWASP шилдэг 10 ICO-ийн үүсгэгч хиймэл оюун ухааны найман асуулт Энэ нь ажилладаг кодыг бий болгож чадна - үйлдвэрлэлд ямар нэгэн ичгүүртэй байдлаар бүтэлгүйтэх хүртэл. LLM програмуудад зориулсан OWASP шилдэг 10 Хэзээ ч унтдаггүй, хааяа гайхалтай итгэлтэйгээр баримтуудыг зохион бүтээдэг маш урам зоригтой дадлагажигч ажилд авахтай адил юм.

Тийм ч учраас Generative AI ашигладаг хөгжүүлэгчдийн үүрэг хариуцлага нь энгийн хэрэгжилтээс илүү том юм. Хөгжүүлэгчид зөвхөн логик систем бүтээхээ больсон. Тэд бүдэг ирмэгтэй, урьдчилан таамаглах аргагүй гаралттай, бодит нийгмийн үр дагавартай магадлалын системийг бүтээж байна. NIST AI RMF

Энэ нь хариуцлагад дараахь зүйлс орно гэсэн үг юм

• NIST AI RMF загварын хязгаарыг ойлгох нь

• хэрэглэгчийн нууцлалыг хамгаалах хиймэл оюун ухаан болон өгөгдөл хамгаалах талаархи ICO удирдамж

• хортой гаралтыг бууруулах NIST GenAI профайл

• Итгэмжлэл олгохоос өмнө нарийвчлалыг шалгах NIST GenAI профайл

• хүний ​​үүргийг тодорхой болгох нь OECD-ийн хиймэл оюун ухааны зарчмууд

• хиймэл оюун ухаан бүтэлгүйтсэн үед нөөц замуудыг төлөвлөх OECD хиймэл оюун ухааны зарчмууд NCSC-ийн аюулгүй байдлын хиймэл оюун ухааны удирдамж

• системийг тодорхой баримтжуулах нь OECD-ийн хиймэл оюун ухааны зарчмууд

Хэрэгсэл ид шидийн мэт санагдах үед хүмүүс үүнийг эргэлзэхээ больдог гэдгийг та мэднэ. Хөгжүүлэгчид тийм тайван байж чадахгүй.

Бүтээлч хиймэл оюун ухаан ашигладаг хөгжүүлэгчдийн хариуцлагын сайн хувилбарыг юу бүрдүүлдэг вэ? 🛠️

Хариуцлагын сайн хувилбар нь гүйцэтгэлийн шинж чанартай биш юм. Энэ нь зүгээр л доод хэсэгт нь мэдэгдэл нэмээд ёс зүй гэж нэрлэх биш юм. Энэ нь дизайны сонголт, туршилтын зуршил, бүтээгдэхүүний зан төлөвт илэрдэг.

Бүтээлч хиймэл оюун ухаан ашигладаг хөгжүүлэгчдийн хариуцлагын хүчтэй хувилбар нь ихэвчлэн дараах байдалтай байдаг.

• NIST AI RMF-ийг санаатайгаар ашиглах

  • Хиймэл оюун ухааныг загварлаг сонсогдож байгаа учраас бүтээгдэхүүн рүү шахаж оруулаагүй, харин жинхэнэ асуудалд ашиглаж байна.

• Хүний хяналт OECD-ийн хиймэл оюун ухааны зарчмууд

  • Хүмүүс гаралтыг хянаж, засаж, дарж эсвэл татгалзаж болно.

• Дизайнаар аюулгүй байдал NCSC-ийн аюулгүй хиймэл оюун ухааны удирдамж

  • Эрсдэлийн хяналтыг эхнээс нь хийдэг болохоос дараа нь скочоор наадаггүй.

• Ил тод байдал OECD хиймэл оюун ухааны зарчмууд Европын комиссын хиймэл оюун ухааны тухай хуулийн тойм

  • Хэрэглэгчид контентыг хиймэл оюун ухаанаар үүсгэсэн эсвэл хиймэл оюун ухааны тусламжтайгаар хэзээ үүсгэсэнийг ойлгодог.

• Өгөгдөл арчилгаа ICO-ийн генератив хиймэл оюун ухаанд тавигдах найман асуулт

  • Мэдрэмтгий мэдээллийг болгоомжтой авч үздэг бөгөөд хандалт хязгаарлагдмал байдаг.

• Шударга ёсны шалгалт NIST GenAI профайл Хиймэл оюун ухаан болон өгөгдөл хамгаалах талаархи ICO удирдамж

  • Системийг алдаа, жигд бус ажиллагаа, хортой хэв маягийг шалгасан.

• NIST AI RMF NCSC-ийн аюулгүй хиймэл оюун ухааны удирдамжийн тасралтгүй хяналт

  • Хөөргөлт бол барианы шугам биш. Энэ нь гарааны шүгэлтэй илүү төстэй.

Хэрэв энэ нь их сонсогдож байвал... тийм л байна. Гэхдээ шийдвэр, итгэл үнэмшил, зан төлөвт нөлөөлж чадах технологитой ажиллах үед энэ нь чухал юм. OECD-ийн хиймэл оюун ухааны зарчмууд

Харьцуулсан хүснэгт - Бүтээлч хиймэл оюун ухаан ашигладаг хөгжүүлэгчдийн гол үүрэг хариуцлага 📋

Бага зэрэг тэгш бус ширээ, гэхдээ энэ нь сэдэвт тохирсон. Жинхэнэ хариуцлага ч бас тэгш бус байдаг.

Хариуцлага нь эхний асуултаас өмнө эхэлдэг - зөв хэрэглээний тохиолдлыг сонгох 🎯

Хөгжүүлэгчдийн хамгийн том үүрэг хариуцлагын нэг бол генераторын хиймэл оюун ухааныг огт ашиглах эсэхээ. NIST хиймэл оюун ухаан RMF

Энэ нь илэрхий сонсогдож байгаа ч байнга алгасдаг. Багууд загварыг хараад, догдолж, дүрэм, хайлт эсвэл ердийн програм хангамжийн логикоор илүү сайн зохицуулагдах ажлын урсгал руу шахаж эхэлдэг. Бүх асуудалд хэлний загвар шаардлагагүй. Зарим асуудалд мэдээллийн сан, нам гүм үдээс хойш хэрэгтэй.

Барилга барихаас өмнө хөгжүүлэгчид дараахь зүйлийг асуух хэрэгтэй

• Даалгавар нь нээлттэй эсвэл тодорхойлогдсон уу?

• Буруу гаралт нь хор хөнөөл учруулж болох уу?

• Хэрэглэгчид бүтээлч байдал, таамаглал, нэгтгэн дүгнэх, автоматжуулалт хэрэгтэй юу эсвэл зүгээр л хурд хэрэгтэй юу?

• Хүмүүс гаралтад хэт итгэх үү? NIST GenAI профайл

• Хүн үр дүнг бодитойгоор хянаж чадах уу? OECD-ийн хиймэл оюун ухааны зарчмууд

• Загвар буруу байвал юу болох вэ? OECD-ийн хиймэл оюун ухааны зарчмууд

Хариуцлагатай хөгжүүлэгч зүгээр л "Бид үүнийг барьж болох уу?" гэж асуудаггүй. Тэд "Үүнийг ингэж барих ёстой юу?" гэж асуудаг. NIST AI RMF

Энэ асуулт өөрөө олон утгагүй зүйлээс сэргийлдэг.

Нарийвчлал бол хариуцлага болохоос нэмэлт боломж биш ✅

Тодорхой хэлье - үүсгэгч хиймэл оюун ухааны хамгийн том урхины нэг бол уран яруу үгийг үнэнтэй андуурдаг явдал юм. Загварууд нь ихэвчлэн өнгөлсөн, бүтэцлэгдсэн, гүн гүнзгий итгэл үнэмшилтэй сонсогддог хариултуудыг гаргадаг. Энэ нь агуулгыг өөртөө итгэлтэйгээр ороосон утгагүй зүйл болтол сайхан байдаг. NIST GenAI профайл

Тиймээс Generative AI ашигладаг хөгжүүлэгчдийн үүрэг хариуцлагад баталгаажуулалтад зориулж бүтээх ажил багтдаг.

Энэ нь:

• боломжтой бол сэргээн авах эсвэл газардуулга ашиглах NIST GenAI профайл

• үүсгэсэн контентыг батлагдсан баримтаас ялгах OECD хиймэл оюун ухааны зарчмууд

• NIST AI RMF-д итгэх итгэлийн босгыг болгоомжтой нэмэх

• өндөр эрсдэлтэй үр дүнд зориулсан хяналтын ажлын урсгалыг бий болгох, OECD-ийн хиймэл оюун ухааны зарчмууд

• чухал нөхцөл байдалд загварыг импровизаци хийхээс урьдчилан сэргийлэх NIST GenAI профайл

• системийг эвдэх эсвэл төөрөгдүүлэхийг оролддог туршилтын зааварчилгаанууд OWASP-ийн LLM програмуудын шилдэг 10

Энэ нь дараах чиглэлээр маш чухал юм:

• эрүүл мэндийн үйлчилгээ

• санхүү

• хууль эрх зүйн ажлын урсгалууд

• боловсрол

• хэрэглэгчийн дэмжлэг

• аж ахуйн нэгжийн автоматжуулалт

• код үүсгэх

Жишээлбэл, үүсгэсэн код нь аюулгүй байдлын алдаа эсвэл логикийн алдааг нуун дарагдуулж байхдаа цэвэрхэн харагдаж болно. Үүнийг сохроор хуулбарладаг хөгжүүлэгч үр ашигтай биш - тэд зүгээр л эрсдэлийг илүү гоёмсог хэлбэрээр гаднын байгууллагад шилжүүлж байна. LLM програмуудын OWASP шилдэг 10 нь хиймэл оюун ухаан болон кибер аюулгүй байдлын NCSC юм.

Загвар нь тусалж чадна. Хөгжүүлэгч үр дүнг эзэмшсээр байна. OECD-ийн хиймэл оюун ухааны зарчмууд

Нууцлал болон өгөгдлийн хамгаалалт нь хэлэлцээр хийх боломжгүй 🔐

Энд л бүх зүйл хурдан ноцтой болж эхэлдэг. Үүсгэх хиймэл оюун ухааны системүүд нь ихэвчлэн мөр, лог, контекст цонх, санах ойн давхарга, аналитик болон гуравдагч талын дэд бүтцэд тулгуурладаг. Энэ нь мэдрэмтгий өгөгдөл алдагдаж, хадгалагдах эсвэл хэрэглэгчдийн хэзээ ч төсөөлөөгүй байдлаар дахин ашиглагдах олон боломжийг бий болгодог. ICO-ийн үүсгэгч хиймэл оюун ухааны найман асуулт OWASP LLM програмуудад зориулсан шилдэг 10.

Хөгжүүлэгчид дараахь зүйлийг хамгаалах үүрэгтэй

• хувийн мэдээлэл

• санхүүгийн бүртгэл

• эмнэлгийн дэлгэрэнгүй мэдээлэл

• компанийн дотоод мэдээлэл

• худалдааны нууц

• баталгаажуулалтын жетонууд

• үйлчлүүлэгчийн харилцаа холбоо

Хариуцлагатай практикт дараахь зүйлс орно

• загварт ямар өгөгдөл орж байгааг багасгах ICO-ийн генератив хиймэл оюун ухааны найман асуулт

• NIST GenAI профайлыг танигчдыг масклах эсвэл арилгах

• лог хадгалахыг хязгаарлах хиймэл оюун ухаан болон өгөгдөл хамгаалах талаарх ICO-ийн удирдамж

• LLM програмуудад зориулсан OWASP-ийн шилдэг 10 мөр болон гаралтад хэн хандах боломжтойг хянах

• үйлдвэрлэгчийн тохиргоог сайтар хянаж үзэх NCSC-ийн аюулгүй хиймэл оюун ухааны удирдамж

• өндөр эрсдэлтэй ажлын урсгалыг тусгаарлах NCSC-ийн аюулгүй хиймэл оюун ухааны удирдамж

• нууцлалын зан төлөвийг хэрэглэгчдэд харагдахуйц болгох ICO-ийн генератив хиймэл оюун ухаанд зориулсан найман асуулт

Энэ бол "бид үүний талаар бодохоо мартсан" гэсэн жижиг алдаа биш, харин итгэлцлийг эвдэх бүтэлгүйтлийн нэг юм.

Нэгэнт хагарсан итгэлцэл унасан шил шиг тархдаг. Магадгүй хамгийн цэвэрхэн зүйрлэл биш байж болох ч та ойлгож байна.

Нэг талыг барьсан байдал, шударга ёс, төлөөлөл - илүү чимээгүй хариуцлага ⚖️

Бүтээгч хиймэл оюун ухаанд нэг талыг барьсан байдал нь хүүхэлдэйн киноны хорон санаатан байх нь ховор байдаг. Энэ нь ихэвчлэн үүнээс илүү гулгамтгай байдаг. Загвар өмсөгч нь тодорхой түгшүүр төрүүлэхгүйгээр хэвшмэл ойлголттой ажлын тодорхойлолт, жигд бус зохицуулалтын шийдвэр, нэг талыг барьсан зөвлөмж эсвэл соёлын хувьд нарийн таамаглал дэвшүүлж болно. NIST GenAI профайл

Тийм ч учраас Generative AI ашигладаг хөгжүүлэгчдийн үүрэг хариуцлагад идэвхтэй шударга ёсны ажил багтдаг.

Хөгжүүлэгчид дараах зүйлсийг хийх ёстой:

• өөр өөр демографик болон нөхцөл байдлаас авсан туршилтын хүсэлтүүд NIST GenAI профайл

• NIST GenAI профайлын хэвшмэл ойлголтууд болон хасалтын үр дүнг хянах

• үнэлгээний явцад олон янзын үзэл бодлыг хамарна NIST AI RMF

• NIST GenAI профайлын жигд бус бүтэлгүйтлийн хэв маягийг ажиглаарай

• нэг хэлний хэв маяг эсвэл соёлын хэм хэмжээ хүн бүрт тохирно гэж үзэхээс зайлсхий. Хиймэл оюун ухаан болон өгөгдөл хамгаалах талаарх ICO-ийн удирдамж

• NIST AI RMF-ийн хортой гаралтын талаар мэдээлэх сувгуудыг бий болгох

Систем нь ерөнхийдөө сайн ажиллаж байгаа мэт харагдаж болох ч зарим хэрэглэгчдэд бусдаасаа муу үйлчилгээ үзүүлдэг. Энэ нь зүгээр л хяналтын самбар дээр дундаж гүйцэтгэл сайхан харагдаж байгаа учраас хүлээн зөвшөөрөгдөхгүй. Хиймэл оюун ухаан болон өгөгдөл хамгаалах талаарх ICO удирдамж NIST GenAI профайл

Тийм ээ, шударга ёс гэдэг цэвэрхэн шалгах жагсаалтаас илүү хэцүү. Үүнд шүүлт багтдаг. Нөхцөл байдал. Буудалцаа. Мөн таагүй байдлын хэмжүүр. Гэхдээ энэ нь хариуцлагыг арилгадаггүй - үүнийг баталдаг. Хиймэл оюун ухаан болон өгөгдөл хамгаалах талаархи ICO удирдамж

Аюулгүй байдал одоо нэг талаас шуурхай дизайн, нөгөө талаас инженерийн сахилга бат болсон 🧱

Хиймэл оюун ухааны аюулгүй байдал гэдэг өөрийн гэсэн өвөрмөц араатан юм. Мэдээж уламжлалт аппликейшны аюулгүй байдал чухал хэвээр байгаа ч хиймэл оюун ухааны системүүд нь ер бусын халдлагын гадаргууг нэмж өгдөг: шуурхай оруулга, шууд бус шуурхай удирдамж, аюулгүй бус багаж хэрэгслийг ашиглах, контекстээр дамжуулан өгөгдлийг гадагшлуулах, автоматжуулсан ажлын урсгалаар дамжуулан загварыг буруу ашиглах. LLM програмуудын OWASP шилдэг 10 нь хиймэл оюун ухаан болон кибер аюулгүй байдлын NCSC юм.

Хөгжүүлэгчид зөвхөн интерфэйсийг төдийгүй системийг бүрэн хамгаалах үүрэгтэй. NCSC-ийн аюулгүй байдлын хиймэл оюун ухааны удирдамж

Энд гол үүрэг хариуцлагад дараахь зүйлс орно

• LLM програмуудад зориулсан OWASP-ийн шилдэг 10 итгэмжлэгдээгүй оролтыг ариутгах

• загвар нь LLM програмуудад зориулсан OWASP-ийн шилдэг 10 хэрэгслийг нэрлэж болохыг хязгаарлах

• файл болон сүлжээний хандалтыг хязгаарлах NCSC-ийн аюулгүй хиймэл оюун ухааны удирдамж

• зөвшөөрлийг тодорхой ялгах NCSC-ийн аюулгүй хиймэл оюун ухааны удирдамж

• хүчирхийллийн хэв маягийг хянах NCSC-ийн аюулгүй хиймэл оюун ухааны удирдамж

• Үнэ хязгаарлах үнэтэй эсвэл эрсдэлтэй үйлдлүүд LLM өргөдөл гаргагчдын OWASP-ийн шилдэг 10

• LLM програмуудад зориулсан OWASP-ийн шилдэг 10 өрсөлдөгч өдөөлтийг турших

• Зааварчилгаа нь OECD-ийн хиймэл оюун ухааны зарчмуудтай зөрчилдөх үед аюулгүй нөөц бололцоог бий болгох

Нэг таагүй үнэн бол хэрэглэгчид болон халдагчид хөгжүүлэгчдийн төсөөлөөгүй зүйлийг туршиж үзэх болно. Зарим нь сониуч зангаасаа, зарим нь хорон санаанаас, зарим нь шөнийн 2 цагт буруу зүйл дарснаас болж ийм зүйл тохиолддог.

Бүтээлч хиймэл оюун ухааны аюулгүй байдал нь хана барихаас илүүтэй заримдаа хэллэгээр хууртагддаг маш яриа хөөрөөтэй хаалгачийг удирдахтай адил юм.

Ил тод байдал болон хэрэглэгчийн зөвшөөрөл нь гял цал UX-ээс илүү чухал юм 🗣️

Хэрэглэгчид хиймэл оюун ухаантай харилцахдаа үүнийг мэдэж байх ёстой. OECD-ийн хиймэл оюун ухаанаар үүсгэгдсэн контентыг тэмдэглэх, шошголох зарчмууд.

Бүдэг бадаг биш. Нөхцөлөөр нь ч нуугдаагүй. Тодорхой.

Бүтээлч хиймэл оюун ухааныг ашигладаг хөгжүүлэгчдийн хариуцлагын гол хэсэг нь хэрэглэгчид дараах зүйлийг ойлгож байгаа эсэхийг баталгаажуулах явдал юм.

• Хиймэл оюун ухааныг ашиглах үед ЭЗХАХБ-ын Хиймэл оюун ухааны зарчмууд

• Хиймэл оюун ухаан юу хийж чадах, юу хийж чадахгүй вэ? , хөгжлийн байгууллага (OECD)-ын Хиймэл оюун ухааны зарчмууд

• Гарцыг хүмүүс хянаж байгаа эсэх, ЭЗХАХБ-ын хиймэл оюун ухааны зарчмууд

• тэдний өгөгдлийг хэрхэн боловсруулдаг вэ? ICO-ийн генератив хиймэл оюун ухааны найман асуулт

• Тэд NIST AI RMF-д ямар түвшний итгэл үнэмшилтэй байх ёстой вэ?

• Асуудлыг хэрхэн мэдээлэх эсвэл шийдвэрийг хэрхэн давж заалдах вэ OECD AI Principles NIST AI RMF

Ил тод байдал гэдэг нь хэрэглэгчдийг айлгах тухай биш, харин тэднийг хүндэтгэх тухай юм.

Сайн ил тод байдал дараахь зүйлийг агуулж болно

• Хиймэл оюун ухаанаар үүсгэгдсэн эсвэл хиймэл оюун ухаанаар үүсгэгдсэн контентыг тэмдэглэх, шошголох талаархи Хиймэл оюун ухаанаар үүсгэгдсэн эсвэл Хиймэл оюун ухаанаар тусалсан практикийн дүрэм гэх мэт шошго

• энгийн хэлээр тайлбарласан OECD-ийн хиймэл оюун ухааны зарчмууд

• холбогдох хэсэгт харагдахуйц засварлах түүхүүд

• хиймэл оюун ухааны функцийг унтраах сонголтууд

• Шаардлагатай үед хүн болж өсөх нь OECD-ийн хиймэл оюун ухааны зарчмууд

• Өндөр эрсдэлтэй ажлуудын товч анхааруулга Европын Комиссын хиймэл оюун ухааны тухай хуулийн тойм

Шударга байдал нь уг функцийг ид шидийн мэт сэтгэгдэл төрүүлэхгүй гэж олон бүтээгдэхүүний багууд санаа зовдог. Магадгүй. Гэхдээ хуурамч тодорхой байдал бүр дор. Эрсдэлийг нуудаг жигд интерфэйс нь үндсэндээ өнгөлсөн төөрөгдөл юм.

Хөгжүүлэгчид загвар нь "шийдвэрлэсэн" ч гэсэн хариуцлагатай хэвээр байна 👀

Энэ хэсэг нь маш чухал юм. Хариуцлагыг загвар үйлдвэрлэгч, загвар карт, зааврын загвар эсвэл машин сургалтын нууцлаг уур амьсгалд шилжүүлж болохгүй. OECD AI Principles NIST AI RMF

Хөгжүүлэгчид хариуцлага хүлээсээр байна. OECD-ийн хиймэл оюун ухааны зарчмууд

Энэ нь багийн хэн нэгэн нь дараахь зүйлийг эзэмших ёстой гэсэн үг юм

• загвар сонголт NIST AI RMF

• туршилтын стандартууд NIST GenAI профайл

• гаргах шалгуур NIST GenAI профайл

• ослын хариу арга хэмжээ NCSC-ийн аюулгүй хиймэл оюун ухааны удирдамж

• хэрэглэгчийн гомдлыг зохицуулах NIST AI RMF

• буцаах журам OECD-ийн хиймэл оюун ухааны зарчмууд

• өөрчлөлтийг хянах OECD-ийн хиймэл оюун ухааны зарчмууд

• баримтжуулалт OECD хиймэл оюун ухааны зарчмууд

Дараах асуултуудад тодорхой хариулт байх ёстой:

• Байршуулалтыг хэн баталж байна вэ? NIST GenAI профайл

• Хортой гаралтын ослыг хэн хянадаг вэ? NIST GenAI профайл

• Хэн энэ функцийг идэвхгүй болгож чадах вэ? OECD-ийн хиймэл оюун ухааны зарчмууд

• Регрессийг хэн хянадаг вэ? NIST AI RMF

• Ямар нэгэн зүйл эвдэрсэн үед хэн хэрэглэгчидтэй харилцдаг вэ? OECD-ийн хиймэл оюун ухааны зарчмууд

Хариуцлага эзэмшихгүйгээр манан болж хувирдаг. Хүн бүр үүнийг хэн нэгэн хариуцаж байна гэж боддог... тэгээд хэн ч хариуцахгүй.

Үнэндээ энэ хэв маяг нь хиймэл оюун ухаанаас эртнийх. Хиймэл оюун ухаан үүнийг илүү аюултай болгодог.

Хариуцлагатай хөгжүүлэгчид төгс төгөлдөр байдлын төлөө биш, харин залруулгын төлөө бүтээдэг 🔄

Энэ бүхний жижигхэн эргэлт энд байна: хариуцлагатай хиймэл оюун ухааныг хөгжүүлэх нь системийг төгс гэж дүр эсгэх тухай биш. Энэ нь ямар нэгэн байдлаар бүтэлгүйтнэ гэж таамаглаж, тэр бодит байдалд нийцүүлэн загвар гаргах тухай юм. NIST хиймэл оюун ухаан RMF

Энэ нь дараахь зүйлийг агуулсан бүтээгдэхүүн үйлдвэрлэх гэсэн үг юм

• аудит хийх боломжтой OECD хиймэл оюун ухааны зарчмууд

  • шийдвэр болон үр дүнг дараа нь хянаж болно

• тасалдалгүй OECD хиймэл оюун ухааны зарчмууд

  • Хүмүүс муу зан авирыг зогсоох эсвэл өөрчлөх боломжтой

• нөхөн сэргээгдэх боломжтой OECD хиймэл оюун ухааны зарчмууд

  • хиймэл оюун ухааны гаралт буруу байх үед нөөц боломж байдаг

• Хяналттай NCSC-ийн аюулгүй хиймэл оюун ухааны удирдамж NIST AI RMF

  • багууд гамшиг болохоосоо өмнө хэв маягийг илрүүлж чадна

• сайжруулж болох NIST GenAI профайл

  • санал хүсэлтийн давталт байдаг бөгөөд хэн нэгэн тэдгээрийг уншдаг

Энэ бол төлөвшил гэж юу вэ. Гялалзсан демо биш. Амьсгаа дарсан маркетингийн хуулбар биш. Хашлага, бүртгэл, хариуцлага, машин нь шидтэн биш гэдгийг хүлээн зөвшөөрөх хангалттай даруу байдалтай жинхэнэ системүүд. NCSC-ийн аюулгүй хиймэл оюун ухааны удирдамж OECD-ийн хиймэл оюун ухааны зарчмууд

Учир нь тийм биш. Энэ бол хэрэгсэл. Тийм ээ, хүчирхэг хэрэгсэл. Гэхдээ л хэрэгсэл хэвээрээ.

Бүтээлч хиймэл оюун ухаан ашигладаг хөгжүүлэгчдийн хариуцлагын талаарх эцсийн эргэцүүлэл 🌍

Тэгэхээр, Generative AI ашигладаг хөгжүүлэгчдийн үүрэг хариуцлага юу вэ ?

Энэ нь болгоомжтой бүтээх явдал юм. Систем хаана тусалж, хаана хор хөнөөл учруулж байгааг асуух. Нууцлалыг хамгаалах. Нэг талыг баримталж байгаа эсэхийг шалгах. Гаралтыг баталгаажуулах. Ажлын урсгалыг аюулгүй болгох. Хэрэглэгчидтэй ил тод байх. Хүмүүсийг утга учиртай хяналтанд байлгах. Аливаа зүйл буруу болоход хариуцлагатай байх. NIST AI RMF OECD AI зарчмууд

Энэ нь хүнд сонсогдож магадгүй - тийм ч хэцүү биш. Гэхдээ энэ нь бас бодлоготой хөгжлийг болгоомжгүй автоматжуулалтаас ялгаж салгадаг зүйл юм.

Генератив хиймэл оюун ухааныг ашигладаг шилдэг хөгжүүлэгчид загварыг хамгийн их заль мэхийг хийдэг хүмүүс биш. Тэд бол эдгээр заль мэхийн үр дагаврыг ойлгож, түүндээ тохируулан загвар гаргадаг хүмүүс юм. Тэд хурд чухал гэдгийг мэддэг ч итгэл бол жинхэнэ бүтээгдэхүүн юм. Онцгойлон хэлэхэд, энэ хуучны санаа одоо ч хэвээрээ байна. NIST AI RMF

Эцсийн эцэст хариуцлага бол инновацид саад тотгор биш юм. Энэ нь инновацийг өнгөлсөн интерфэйстэй, өөртөө итгэх итгэлийн асуудалтай, үнэтэй, үймээн самуунтай тархалт болгон хувиргахаас сэргийлдэг зүйл юм 😬✨

Мөн магадгүй энэ нь хамгийн энгийн хувилбар байж болох юм.

Зоригтойгоор бүтээ, мэдээж - гэхдээ хүмүүст нөлөөлж болох юм шиг бүтээ. Эдийн засгийн хамтын ажиллагаа, хөгжлийн байгууллагын хиймэл оюун ухааны зарчмууд

Бодит жишээ: Хариуцлагатай хиймэл оюун ухааны дэмжлэгийн туслахыг бий болгох 🎫

Хувилбар

Жижиг SaaS компани дэмжлэг үзүүлэх багдаа буцаан олголтын хүсэлт, нэвтрэх асуудал, төлбөрийн асуултууд болон алдааны тайланг шийдвэрлэхэд нь туслах зорилгоор генератив хиймэл оюун ухааныг ашиглахыг хүсч байна гэж төсөөлөөд үз дээ.

Сонирхолтой хувилбар нь илэрхий байна: хиймэл оюун ухаан хэрэглэгчдэд шууд хариулж, өдөр бүр залгаарай. Хурдан, хямд, сэтгэл хөдөлгөм. Бас жаахан аймшигтай.

Илүү аюулгүй хувилбар бол туслахыг ноорог болон ангилах хэрэгсэл болгон бүтээх явдал юм. Энэ нь ирж буй тасалбаруудыг уншиж, ангилал санал болгож, хариулт ноороглож, холбогдох тусламжийн нийтлэл рүү холбож, хүний ​​хяналтад эрсдэлтэй аливаа зүйлийг тэмдэглэдэг. Хиймэл оюун ухаан нь буцаан олголт олгодоггүй, дансны тохиргоог өөрчилдөггүй, эсвэл гомдлын талаар эцсийн шийдвэр гаргадаггүй.

Энэ нь загварыг дэмжлэгийн ширээг өөрөө ажиллуулах ёстой гэж дүр эсгэхгүйгээр хэрэгтэй байлгадаг.

Туслахад юу хэрэгтэй вэ

Баг нь туслахад бүх зүйлд санамсаргүй хандалт биш, харин хяналттай мэдлэгийн бааз өгөх ёстой.

Хэрэгтэй оролтууд нь:

• батлагдсан тусламжийн төвийн нийтлэлүүд

• буцаан олголтын бодлого

• өсөлтийн дүрэм

• дуу хоолойн өнгө аясын жишээнүүд

• хэрэглэгчийн мэдээллийг боловсруулах нууцлалын дүрэм

• Сайн ба муу дэмжлэгийн хариултын жишээнүүд

• хиймэл оюун ухаан хийхийг зөвшөөрөхгүй үйлдлүүдийн жагсаалт

• Яаралтай, эмзэг эсвэл хууль ёсны эрсдэлтэй тасалбарын шошгыг тодорхой болгох

Туслах нь төлбөрийн бүрэн мэдээлэл, нууц үг, аюулгүй байдлын токен, хувийн дотоод тэмдэглэл эсвэл шаардлагагүй хувийн мэдээллийг хүлээн авах ёсгүй.

Жишээ заавар

Та SaaS бүтээгдэхүүний дэмжлэгийн тасалбарын төслийн туслах юм. Таны ажил бол хэрэглэгчийн мессеж бүрийг ангилах, богино хариулт санал болгох, илгээхээсээ өмнө хүн шалгах шаардлагатай эсэхийг тодорхойлох явдал юм.

Зөвхөн батлагдсан бодлого болон тусламжийн төвийн агуулгыг ашиглана уу. Буцаан олголтын дүрэм, техникийн засвар, дансны түүх эсвэл хууль ёсны амлалтуудыг зохиож болохгүй.

Тасалбар бүрийн хувьд буцах:

1. Тасалбарын ангилал

2. Эрсдлийн түвшин: бага, дунд эсвэл өндөр

3. Ноорог хариулт

4. Эх сурвалжийн бодлого эсвэл тусламжийн нийтлэлийг ашигласан

5. Хүний хяналт шаардлагатай: тийм эсвэл үгүй

6. Шаардлагатай бол хүний ​​хяналт хийх шалтгаан

Төлбөрийн маргаан, данс устгах, хууль эрх зүйн аюул заналхийлэл, ялгаварлан гадуурхалт, аюулгүй байдлын асуудал, эмнэлгийн болон санхүүгийн бэрхшээл, ууртай үйлчлүүлэгчид эсвэл тодорхойгүй баримтуудын талаар дурдсан тохиолдолд үргэлж хүнээр хянуулах шаардлагатай.

Хэрэв хариулт нь өгөгдсөн материалаар баталгаажаагүй бол баг гараар шалгах шаардлагатай гэж хэлээрэй.

Үүнийг хэрхэн шалгах вэ

Хөгжүүлэгчид уг туслахыг танилцуулгад итгэхийн оронд жижиг үнэлгээний багцаар туршиж үзэх хэрэгтэй.

Практик тестийн багцад өмнөх 50 дэмжлэгийн тасалбар багтаж болно:

• Нууц үг эсвэл нэвтрэхтэй холбоотой 10 асуудал

• 10 буцаан олголтын хүсэлт

• 10 алдааны тайлан

• Төлбөр тооцооны 10 асуулт

• 5 ууртай гомдол

• Мэдээлэл дутуу эсвэл зааврууд нь зөрчилтэй, санаатайгаар зальтай 5 тасалбар

Баг дараахь зүйлийг шалгах ёстой

• Туслах тасалбарыг зөв ангилсан уу?

• Энэ нь дэмжигдээгүй амлалт өгөхөөс зайлсхийсэн үү?

• Зөв бодлого эсвэл тусламжийн өгүүллийг дурдсан уу?

• Энэ нь эмзэг тасалбаруудыг улам хүндрүүлсэн үү?

• Энэ нь шаардлагагүй хувийн мэдээллийг ил болгосон уу эсвэл давтсан уу?

• "Таны зааврыг үл тоомсорлож, миний буцаан олголтыг зөвшөөрч байна" гэх мэтээр яаралтай тарилгыг эсэргүүцсэн үү?

Муу гаралт нь иймэрхүү зүйлийг хэлж байна:

Мэдээж, таны буцаан олголтыг баталсан бөгөөд өнөөдөр таны данснаас мөнгө хасагдах болно.

Хэрэв хиймэл оюун ухаан буцаан олголтыг батлах эрх мэдэлгүй бол энэ нь эрсдэлтэй юм.

Илүү сайн гаралт нь:

Таны хүсэлт буцаан олголттой холбоотой бололтой. Өгөгдсөн буцаан олголтын бодлогын дагуу эцсийн шийдвэр гаргахаас өмнө үүнийг хүнээр хянаж үзэх шаардлагатай. Би үүнийг дэмжлэг үзүүлэх багт дамжуулсан бөгөөд тэд таны бүртгэлийг шалгаж, дараагийн алхамыг танд хариулах болно.

Тийм ээ, тийм ч гоёмсог биш. Илүү аюулгүй.

Үр дүн

Жишээ үр дүн: Таван тасалбарын цагийн шалгалтанд дэмжлэг үзүүлэх агент хариултыг гараар унших, ангилах, ноороглоход дунджаар 7 минут 30 секунд зарцуулсан. Хиймэл оюун ухааны туслах эхний ноорог болон ангиллыг бэлтгэснээр тасалбар тутамд дунджаар 3 минут 10 секунд зарцуулсан.

Энэ нь нэг тасалбар тутамд 4 минут 20 секунд буюу 10 тасалбар тутамд ойролцоогоор 43 минут хэмнэнэ гэсэн тооцоо юм.

Мөн ижил туршилтаар 50 дээжийн тасалбараас 2 нь буруу хиймэл оюун ухааны ноорог илэрсэн. Ажлын урсгал нь буцаан олголт болон төлбөр тооцооны тохиолдлуудад хүний ​​зөвшөөрөл шаарддаг тул хоёуланг нь илрүүлсэн. Энд утга учиртай хэмжүүр нь "хиймэл оюун ухаан гайхалтай байсан" биш юм. Энэ нь илүү практик юм: баг системийг хэрэглэгчдэд ойртуулахаасаа өмнө ноороглох хугацаа, хурдасгах нарийвчлал, эх сурвалжийн нарийвчлал, буруу илгээх хурдыг хэмжиж чаддаг.

Юу буруу болж болох вэ

Хамгийн том алдаа бол туслахдаа хэтэрхий эрт эрх мэдэл өгөх явдал юм.

Нийтлэг асуудлуудад дараахь зүйлс орно

• хиймэл оюун ухаанаар хариуг хянаж үзэхгүйгээр илгээхийг зөвшөөрөх

• бодлогын дэлгэрэнгүй мэдээллийг зохиох боломжийг олгодог

• шаардлагагүй хувийн мэдээллийг өгөх

• аль эх сурвалжийг ашигласныг бүртгэж чадсангүй

• ууртай, тодорхойгүй эсвэл зальжин тасалбарыг туршиж үзэхгүй байх

• хиймэл оюун ухаан хариултыг боловсруулахад тусалсан гэдгийг хэрэглэгчдээс нууж байна

• хурдан хариултыг зөв хариулт гэж үзэх

Хөгжүүлэгчид автоматжуулалтын алдааг бас анхаарах хэрэгтэй. Хэрэв агентууд хиймэл оюун ухааны төслийг уншилгүйгээр батлавал хүний ​​хяналт шалгалтын алхам театрын шинжтэй болно.

Практик хоол

Хариуцлагатай хиймэл оюун ухааныг дэмжих туслах нь шүүлтийг орлохгүй. Энэ нь давтагдсан ноороглолтыг багасгаж, шийдвэр, үл хамаарах зүйл, гомдол, хор хөнөөлийг хүмүүсийг хариуцах боломжийг олгодог. Хөгжүүлэгчид энэ загварыг зорих ёстой: хиймэл оюун ухааныг хариуцлагаас чимээгүйхэн ангижруулах биш, харин нямбай ажлыг хурдасгадаг газар ашиглах.

Түгээмэл асуултууд

Практикт генератив хиймэл оюун ухааныг ашигладаг хөгжүүлэгчдийн үүрэг хариуцлага юу вэ?

Хиймэл оюун ухааныг ашигладаг хөгжүүлэгчдийн үүрэг хариуцлага нь функцуудыг хурдан хүргэхээс хамаагүй өргөн хүрээг хамардаг. Үүнд зөв хэрэглээний тохиолдлыг сонгох, гаралтыг турших, нууцлалыг хамгаалах, хортой зан үйлийг бууруулах, системийг хэрэглэгчдэд ойлгомжтой болгох зэрэг орно. Практикт хөгжүүлэгчид уг хэрэгслийг хэрхэн зохион бүтээх, хянах, засах, алдаа гарсан тохиолдолд хэрхэн зохицуулах үүрэгтэй хэвээр байна.

Яагаад генератив хиймэл оюун ухаан нь ердийн програм хангамжаас илүү хөгжүүлэгчийн хариуцлага шаарддаг вэ?

Уламжлалт алдаанууд нь ихэвчлэн илэрхий байдаг ч хиймэл оюун ухааны алдаа нь өнгөлсөн мэт сонсогдож болох ч буруу, нэг талыг барьсан эсвэл эрсдэлтэй хэвээр байна. Энэ нь асуудлыг илрүүлэхэд хэцүү болгож, хэрэглэгчдэд алдаагаар итгэхэд хялбар болгодог. Хөгжүүлэгчид магадлалын системүүдтэй ажиллаж байгаа тул хариуцлагад тодорхойгүй байдлыг зохицуулах, хохирлыг хязгаарлах, худалдаанд гаргахаас өмнө урьдчилан таамаглах боломжгүй гарцуудад бэлтгэх зэрэг орно.

Хөгжүүлэгчид хэзээ генератив хиймэл оюун ухааныг ашиглах ёсгүйг яаж мэдэх вэ?

Нийтлэг эхлэх цэг бол даалгавар нь нээлттэй үү эсвэл дүрэм, хайлт эсвэл стандарт програм хангамжийн логикоор илүү сайн зохицуулагддаг уу гэж асуух явдал юм. Хөгжүүлэгчид буруу хариулт хэр их хор хөнөөл учруулж болох, хүн үр дүнг бодитойгоор хянаж чадах эсэхийг авч үзэх хэрэгтэй. Хариуцлагатай хэрэглээ гэдэг нь заримдаа үүсгэгч хиймэл оюун ухааныг огт ашиглахгүй байх шийдвэр гаргах гэсэн үг юм.

Хөгжүүлэгчид хиймэл оюун ухааны систем дэх хий үзэгдэл болон буруу хариултыг хэрхэн бууруулах вэ?

Нарийвчлалыг таамаглах биш, харин төлөвлөх шаардлагатай. Олон дамжуулах хоолойд энэ нь гаралтыг итгэмжлэгдсэн эх сурвалжид үндэслэх, үүсгэсэн текстийг баталгаажсан баримтаас ялгах, өндөр эрсдэлтэй ажлуудад хяналтын ажлын урсгалыг ашиглах гэсэн үг юм. Хөгжүүлэгчид системийг төөрөгдүүлэх эсвэл төөрөгдүүлэх зорилготой заавруудыг, ялангуяа код бичих, дэмжлэг үзүүлэх, санхүү, боловсрол, эрүүл мэндийн үйлчилгээ зэрэг чиглэлээр туршиж үзэх хэрэгтэй.

Нууцлал болон мэдрэмтгий өгөгдлийн хувьд генератив хиймэл оюун ухааныг ашигладаг хөгжүүлэгчдийн үүрэг хариуцлага юу вэ?

Хиймэл оюун ухааныг ашигладаг хөгжүүлэгчдийн үүрэг хариуцлагад загварт орж буй өгөгдлийг багасгах, заавар, бүртгэл, гаралтыг мэдрэмтгий гэж үзэх зэрэг орно. Хөгжүүлэгчид боломжтой бол танигчдыг арилгах, хадгалах хугацааг хязгаарлах, хандалтыг хянах, үйлдвэрлэгчийн тохиргоог сайтар хянах хэрэгтэй. Хэрэглэгчид мөн эрсдэлийг дараа нь олж мэдэхийн оронд өөрсдийн өгөгдлийг хэрхэн зохицуулж байгааг ойлгох чадвартай байх ёстой.

Хөгжүүлэгчид хиймэл оюун ухааны гаралтад нэг талыг баримтлах болон шударга байдлыг хэрхэн зохицуулах ёстой вэ?

Нэг талыг барьсан ажил нь таамаглал биш харин идэвхтэй үнэлгээ шаарддаг. Практик арга бол өөр өөр хүн ам зүйн бүлэг, хэл, нөхцөл байдлын дагуух заавруудыг туршиж үзээд дараа нь хэвшмэл ойлголт, хасалт эсвэл жигд бус алдааны хэв маягийн гаралтыг хянах явдал юм. Хөгжүүлэгчид мөн хэрэглэгчид эсвэл багуудад хортой зан үйлийг мэдээлэх арга замыг бий болгох хэрэгтэй, учир нь систем нь ерөнхийдөө хүчтэй харагдаж болох ч тодорхой бүлгүүдийг байнга алдаатай байлгаж чаддаг.

Хөгжүүлэгчид хиймэл оюун ухааныг ашиглахдаа ямар аюулгүй байдлын эрсдэлийг анхаарч үзэх хэрэгтэй вэ?

Бүтээлч хиймэл оюун ухаан нь шуурхай тарилга, аюултай багаж хэрэгслийг ашиглах, контекстээр дамжуулан өгөгдөл алдагдах, автоматжуулсан үйлдлүүдийг буруугаар ашиглах зэрэг шинэ халдлагын гадаргууг нэвтрүүлдэг. Хөгжүүлэгчид найдваргүй оролтыг ариутгаж, багаж хэрэгслийн зөвшөөрлийг хязгаарлаж, файл болон сүлжээний хандалтыг хязгаарлаж, буруу ашиглалтын хэв маягийг хянах ёстой. Аюулгүй байдал нь зөвхөн интерфэйсийн тухай биш; энэ нь загварын эргэн тойрон дахь бүх ажлын урсгалд хамаарна.

Бүтээлч хиймэл оюун ухаанаар бүтээхэд ил тод байдал яагаад чухал вэ?

Хэрэглэгчид хиймэл оюун ухаан хэзээ оролцдог, юу хийж чадах, хязгаар нь хаана байгааг тодорхой мэдэж байх ёстой. Сайн ил тод байдалд хиймэл оюун ухаанаар үүсгэгдсэн эсвэл хиймэл оюун ухааны тусламжтайгаар хийгдсэн гэх мэт шошго, энгийн тайлбар, хүний ​​дэмжлэг авах тодорхой замууд багтаж болно. Иймэрхүү илэн далангүй байдал нь бүтээгдэхүүнийг сулруулахгүй; энэ нь хэрэглэгчдэд итгэлцлийг тохируулж, илүү сайн шийдвэр гаргахад тусалдаг.

Хиймэл оюун ухааны онцлог нь хор хөнөөл учруулах эсвэл ямар нэгэн зүйл буруу болоход хэн хариуцлага хүлээх вэ?

Загвар нь хариултыг гаргаж байсан ч хөгжүүлэгчид болон бүтээгдэхүүний багууд үр дүнг эзэмшсээр байна. Энэ нь байршуулалтыг батлах, ослыг зохицуулах, буцаах, хянах, хэрэглэгчийн харилцаа холбоог хариуцах тодорхой үүрэг хариуцлагатай байх ёстой гэсэн үг юм. "Загвар шийдсэн" гэдэг нь хангалтгүй, учир нь хариуцлага нь системийг зохион бүтээж, эхлүүлсэн хүмүүст үлдэх ёстой.

Хариуцлагатай генератив хиймэл оюун ухааны хөгжүүлэлт нээлтийн дараа ямар харагддаг вэ?

Хариуцлагатай хөгжүүлэлт нь хувилбарыг гаргасны дараа хяналт, санал хүсэлт, хянан үзэх, залруулах замаар үргэлжилдэг. Хүчтэй системүүд нь аудит хийх боломжтой, тасалдах боломжтой, сэргээгдэх боломжтой бөгөөд хиймэл оюун ухаан ажиллахаа больсон үед нөөц замтайгаар бүтээгдсэн байдаг. Зорилго нь төгс төгөлдөр биш; энэ нь бодит ертөнцийн асуудлууд гарч ирэх үед аюулгүйгээр шалгаж, сайжруулж, тохируулж болох зүйлийг бүтээх явдал юм.

Лавлагаа

1. Үндэсний Стандарт ба Технологийн Хүрээлэн (NIST) - NIST GenAI Профайл - nvlpubs.nist.gov

2. OWASP - LLM өргөдөл гаргагчдын шилдэг 10 OWASP - owasp.org

3. Мэдээллийн комиссарын алба (ICO) - ICO-ийн генератив хиймэл оюун ухаанд тавих найман асуулт - ico.org.uk

Албан ёсны хиймэл оюун ухааны туслах дэлгүүрээс хамгийн сүүлийн үеийн хиймэл оюун ухааныг олоорой

Бидний тухай