Хиймэл оюун ухаан хэт хол явчихсан уу?

Хиймэл оюун ухаан хэтэрхий хол явчихсан уу?

Товчхондоо: Хиймэл оюун ухааныг өндөр эрсдэлтэй шийдвэр гаргах, хяналт тавих, эсвэл ятгахад хатуу хязгаарлалт, мэдээлэлтэй зөвшөөрөл, давж заалдах жинхэнэ эрхгүйгээр ашигласан нь хэтэрсэн хэрэг юм. Хуурамч мэдээлэл, өргөжүүлэх боломжтой луйвар нь итгэлцлийг мөрийтэй тоглоом мэт санагдуулах үед энэ нь дахин хязгаарыг давж гардаг. Хэрэв хүмүүс хиймэл оюун ухаан үүрэг гүйцэтгэсэн гэдгийг хэлж чадахгүй, шийдвэр яагаад ийм байдлаар гарсныг ойлгож чадахгүй, эсвэл татгалзаж чадахгүй бол энэ нь аль хэдийн хэтэрсэн гэсэн үг юм.

Гол дүгнэлтүүд:

Хил хязгаар: Систем юу хийж чадахгүйг, ялангуяа тодорхойгүй байдал өндөр байгаа үед тодорхойл.

Хариуцлага: Хүмүүс торгууль эсвэл цагийн дарамт шахалтгүйгээр үр дүнг давж гарах боломжтой эсэхийг баталгаажуулах.

Ил тод байдал: Хиймэл оюун ухаан хэзээ оролцож байгаа, яагаад ийм шийдвэр гаргасан талаар хүмүүст хэл.

Өрсөлдөөнт байдал: Буруу өгөгдлийг засах хурдан, ажиллах боломжтой давж заалдах маршрут, тодорхой аргуудыг өгөх.

Буруу хэрэглээний эсрэг хамгаалалт: Луйвар болон зүй бус хэрэглээг хязгаарлахын тулд гарал үүсэл, үнийн хязгаар болон хяналтыг нэмнэ үү.

"Хиймэл оюун ухаан хэтэрхий хол явчихсан уу?"

Хачирхалтай нь шугамыг давсан нь үргэлж илэрхий байдаггүй. Заримдаа энэ нь гүн хуурамч луйвар шиг чанга, гял цал байдаг. ( FTC , FBI ) ​​Бусад үед энэ нь чимээгүй байдаг - таны амьдралыг ямар ч тайлбаргүйгээр хажуу тийш нь түлхдэг автомат шийдвэр бөгөөд та "оноо авснаа" ч анзаардаггүй. ( UK ICO , GDPR-ийн 22-р зүйл )

Тэгэхээр... Хиймэл оюун ухаан хэт хол явчихсан уу? Зарим газарт тийм ээ. Бусад газарт хангалттай хол яваагүй - учир нь үүнийг ээлтэй хэрэглэгчийн интерфэйстэй рулет дугуйны оронд багаж хэрэгсэл шиг ажилладаг, дур булаам боловч зайлшгүй шаардлагатай аюулгүйн хашлагагүйгээр ашиглаж байна. 🎰🙂 ( NIST AI RMF 1.0 , ЕХ-ны Хиймэл оюун ухааны тухай хууль )

Үүний дараа таны унших дуртай нийтлэлүүд:

🔗 Яагаад хиймэл оюун ухаан нийгэмд хор хөнөөл учруулж болох вэ
Нийгмийн гол эрсдэлүүд: ялгаварлан гадуурхалт, ажлын байр, хувийн нууц, эрх мэдлийн төвлөрөл.

🔗 Хиймэл оюун ухаан байгаль орчинд муу юу? Нууцлаг нөлөөлөл
Сургалт, өгөгдлийн төвүүд болон эрчим хүчний хэрэглээ нь ялгарлыг хэрхэн нэмэгдүүлдэг вэ?.

🔗 Хиймэл оюун ухаан сайн уу, муу юу? Давуу болон сул талууд
Ашиг тус, эрсдэл болон бодит ертөнцийн буултуудын тэнцвэртэй тойм.

🔗 Хиймэл оюун ухааныг яагаад муу гэж үздэг вэ: харанхуй тал
Буруу ашиглалт, залилан мэхлэлт, аюулгүй байдлын аюул заналхийлэл болон ёс зүйн асуудлуудыг судалдаг.

Хүмүүс "Хиймэл оюун ухаан хэтэрхий хол явчихсан уу?" гэж хэлэхдээ юуг хэлэх гээд байна вэ? 😬

Ихэнх хүмүүс хиймэл оюун ухаан "мэдрэмжтэй" эсвэл "байдлыг эзэлж байна уу" гэж асуудаггүй. Тэд эдгээрийн аль нэгийг зааж байна:

  • Хиймэл оюун ухааныг ашиглах ёсгүй газарт ашиглаж байна. (Ялангуяа өндөр эрсдэлтэй шийдвэрүүд.) ( ЕХ-ны Хиймэл оюун ухааны тухай хуулийн III хавсралт , GDPR-ийн 22-р зүйл )

  • Хиймэл оюун ухааныг зөвшөөрөлгүйгээр ашиглаж байна. (Таны өгөгдөл, таны дуу хоолой, таны царай... гайхшрал төрүүлэв.) ( UK ICO , GDPR-ийн 5-р зүйл )

  • Хиймэл оюун ухаан анхаарлыг удирдахдаа хэтэрхий сайн болж байна. (Хайлт + хувьчлах + автоматжуулалт = наалдамхай.) ( OECD-ийн Хиймэл оюун ухааны зарчмууд )

  • Хиймэл оюун ухаан үнэнийг заавал биш мэт санагдуулж байна. (Гүн хуурамч зүйлс, хуурамч тоймууд, синтетик "мэргэжилтнүүд") ( Европын Комисс , FTC , C2PA )

  • Хиймэл оюун ухаан хүчийг төвлөрүүлж байна. (Хүн бүрийн харж, хийж чадах зүйлийг бүрдүүлдэг цөөн хэдэн систем.) ( UK CMA )

"Хиймэл оюун ухаан хэтэрхий хол явчихсан уу?" гэсэн үгийн гол санаа юм . Энэ бол ганцхан мөч биш. Энэ бол урамшуулал, товчлол, "бид дараа нь засна" гэсэн бодлын овоолго юм - үнэнийг хэлэхэд энэ нь "хэн нэгэн гэмтсэний дараа бид засах болно" гэсэн үг юм. 😑

Хиймэл оюун ухаан хэт хол явчихсан уу? (Infografika)

Нууц биш үнэн: Хиймэл оюун ухаан бол ёс суртахууны хүчин зүйл биш, харин үржүүлэгч юм 🔧✨

Хиймэл оюун ухаан сэрээд хор хөнөөлтэй байхаар шийддэггүй. Хүмүүс болон байгууллагууд үүнийг чиглүүлдэг. Гэхдээ энэ нь таны тэжээж буй зүйлийг үржүүлдэг:

  • Тустай зорилго нь асар их тустай (орчуулга, хүртээмжтэй байдал, нэгтгэн дүгнэх, эмнэлгийн хэв маягийг илрүүлэх).

  • Хайнга санаа нь асар их хайнга (царайны хэмжээнд алдаа гаргах, алдааг автоматжуулах).

  • Муу санаа нь асар их муу зүйл (луйвар, дарамт шахалт, суртал ухуулга, дүр эсгэх).

Энэ нь нялх хүүхдэд чанга яригч өгөхтэй адил юм. Заримдаа нялх хүүхэд дуулдаг... заримдаа нялх хүүхэд таны сэтгэлд шууд хашгирдаг. Төгс зүйрлэл биш - жаахан инээдтэй - гэхдээ гол санаа нь энд байна 😅📢.

Өдөр тутмын орчинд хиймэл оюун ухааны сайн хувилбарыг юу бүрдүүлдэг вэ? ✅🤝

Хиймэл оюун ухааны "сайн хувилбар" нь хэр ухаалаг гэдгээр нь тодорхойлогддоггүй. Энэ нь дарамт, тодорхойгүй байдал, уруу таталтын үед хэр сайн ажиллаж байгаагаар тодорхойлогддог (мөн хүмүүс хямд автоматжуулалтад маш их уруу татагддаг). ( NIST AI RMF 1.0 , OECD )

Хэн нэгэн хиймэл оюун ухааныг буруутай гэж мэдэгдэх үед би дараах зүйлсийг анхаардаг

1) Тодорхой хил хязгаар

  • Систем юу хийхийг зөвшөөрдөг вэ?

  • Юу хийхийг шууд хориглосон бэ?

  • Тодорхойгүй үед юу болох вэ?

2) Чимэглэлийн биш, бодит хүний ​​хариуцлага

Хүний "хяналтын" үр дүн зөвхөн дараах тохиолдолд л чухал юм

  • тэд юуг хянаж байгаагаа ойлгож байгаа бөгөөд

  • Тэд үйл явдлыг удаашруулсныхаа төлөө шийтгэл хүлээхгүйгээр үүнийг дарж чадна.

3) Зөв түвшинд тайлбарлах боломжтой байдал

Хүн бүрт математик хэрэггүй. Хүмүүст дараах зүйлс хэрэгтэй:

  • шийдвэрийн гол шалтгаанууд,

  • ямар өгөгдөл ашигласан,

  • хэрхэн давж заалдах, засах эсвэл татгалзах вэ. ( UK ICO )

4) Хэмжиж болох гүйцэтгэл - алдааны горимуудыг оруулаад

Зөвхөн "нарийвчлал" төдийгүй:

  • хэнд бүтэлгүйтсэн бэ,

  • чимээгүйхэн бүтэлгүйтдэг нь хэр олон удаа,

  • Дэлхий ертөнц өөрчлөгдөхөд юу болох вэ. ( NIST AI RMF 1.0 )

5) "Тохиргоонд булаагүй" нууцлал болон зөвшөөрөл

Хэрэв зөвшөөрөл авахын тулд цэсээр дамжуулан эрдэнэс хайх шаардлагатай бол... энэ нь зөвшөөрөл биш. Энэ бол нэмэлт алхамтай цоорхой юм 😐🧾. ( GDPR-ийн 5-р зүйл , Их Британийн ICO )

Харьцуулсан хүснэгт: хиймэл оюун ухааныг хэт хол явахаас сэргийлэх практик аргууд 🧰📊

Доорх "хамгийн шилдэг сонголтууд" нь үр дүнг өөрчилдөг нийтлэг хашлага эсвэл үйл ажиллагааны хэрэгсэл (зөвхөн чичиргээ биш) гэсэн утгаар нь байна.

Хэрэгсэл / сонголт Үзэгчид Үнэ Яагаад ажилладаг вэ
Хүний давталттай тойм ( ЕХ-ны хиймэл оюун ухааны тухай хууль ) Өндөр бооцоотой дуудлага хийж буй багууд ££ (цаг хугацааны зардал) Муу автоматжуулалтыг удаашруулдаг. Түүнчлэн, хүмүүс заримдаа хачин ирмэгийн тохиолдлуудыг анзаарч чаддаг..
Шийдвэрийг давж заалдах үйл явц ( GDPR-ийн 22-р зүйл ) Хиймэл оюун ухааны шийдвэрт өртсөн хэрэглэгчид Чөлөөт маягийн Хууль ёсны журмыг нэмдэг. Хүмүүс буруу өгөгдлийг засаж чадна - энэ нь энгийн учраас энгийн сонсогдож байна
Аудитын бүртгэлүүд + мөрдөх боломж ( NIST SP 800-53 ) Дагаж мөрдөх, үйл ажиллагаа, аюулгүй байдал £-££ Бүтэлгүйтлийн дараа мөрөө хавчихын оронд "юу болсон бэ?" гэж хариулах боломжийг олгоно
Загварын үнэлгээ + алдааны туршилт ( NIST AI RMF 1.0 ) Бүтээгдэхүүн + эрсдэлийн багууд маш их ялгаатай Урьдчилан таамаглаж болох хор хөнөөлийг эрт илрүүлдэг. Төгс биш ч таамаглаж байснаас дээр
Улаан багийн туршилт ( NIST GenAI профайл ) Аюулгүй байдал + аюулгүй байдлын ажилтнууд £££ Жинхэнэ халдагчид буруу ашиглалтыг дуурайлган хийдэг. Тааламжгүй ч үнэ цэнэтэй 😬
Өгөгдлийг багасгах ( UK ICO ) Үнэнийг хэлэхэд бүгдээрээ £ Бага өгөгдөл = бага замбараагүй байдал. Мөн бага зөрчил, бага эвгүй яриа
Агуулгын гарал үүслийн дохио ( C2PA ) Платформууд, медиа, хэрэглэгчид £-££ "Үүнийг хүн хийсэн үү?" гэдгийг баталгаажуулахад тусалдаг - алдаа мадаггүй ч эмх замбараагүй байдлыг бууруулдаг
Үнийн хязгаарлалт + хандалтын хяналт ( OWASP ) Хиймэл оюун ухааны үйлчилгээ үзүүлэгчид + аж ахуйн нэгжүүд £ Хүчирхийллийн хэмжээг шууд зогсооно. Муу жүжигчдэд зориулсан хурд сааруулагч шиг

Тийм ээ, ширээ жаахан тэгш бус байна. Энэ бол амьдрал. 🙂

Өндөр эрсдэлтэй шийдвэрүүдэд хиймэл оюун ухаан: хэтэрсэн үед 🏥🏦⚖️

Энд л юмс хурдан ноцтой болж эхэлдэг.

Эрүүл мэнд , санхүү , орон сууц , ажил эрхлэлт , боловсрол , цагаачлал , эрүүгийн эрх зүй зэрэг салбаруудад хиймэл оюун ухаан - эдгээр нь дараах системүүд юм: ( ЕХ-ны Хиймэл Оюун Ухааны тухай хуулийн III хавсралт , FDA )

  • алдаа нь хэн нэгний мөнгө, эрх чөлөө, нэр төр, аюулгүй байдалд хохирол учруулж болзошгүй,

  • мөн нөлөөлөлд өртсөн хүн хариу тэмцэх чадвар хязгаарлагдмал байдаг.

Том эрсдэл нь "хиймэл оюун ухаан алдаа гаргадаг" биш юм. Том эрсдэл нь хиймэл оюун ухааны алдаа бодлого болж хувирдагт оршино . ( NIST AI RMF 1.0 )

Энд "хэтэрхий хол" гэдэг нь ямар харагдаж байна вэ

  • Тайлбаргүйгээр автоматжуулсан шийдвэрүүд: "компьютер үгүй ​​гэж хэлдэг." ( UK ICO )

  • “Эрсдэлийн оноо”-г таамаглалын оронд баримт мэтээр авч үзсэн.

  • Удирдлага хурд хүсдэг учраас үр дүнг нь үгүйсгэж чадахгүй хүмүүс.

  • Эмх цэгцгүй, нэг талыг барьсан, хуучирсан эсвэл зүгээр л буруу өгөгдөл.

Юуг хэлэлцээр хийх боломжгүй байх ёстой вэ

  • Давж заалдах эрх (хурдан, ойлгомжтой, төөрдөг байшин биш). ( GDPR-ийн 22-р зүйл , Их Британийн ICO )

  • Хиймэл оюун ухаан оролцсон гэдгийг мэдэх эрх Европын Комисс )

  • Үр дагаварт хүргэх хүний ​​хяналт NIST AI RMF 1.0 )

  • Өгөгдлийн чанарын хяналт - хог орж, хог гарч байна гэдэг нь үнэхээр хэцүү хэвээр байна.

Хэрэв та цэвэр шугам зурахыг оролдож байгаа бол нэгийг нь дурдъя:
Хэрэв хиймэл оюун ухааны систем хэн нэгний амьдралыг мэдэгдэхүйц өөрчилж чадвал бусад эрх мэдлийн хэлбэрээс бидний хүлээж буйтай адил ноцтой байдлыг шаардах болно. Бүртгүүлээгүй хүмүүст "бета туршилт" хийхгүй. 🚫

Дипфэйк, луйвар, мөн "Би нүдэндээ итгэдэг" дууны удаан үхэл 👀🧨

Энэ бол өдөр тутмын амьдралыг ... гулгамтгай мэт санагдуулдаг хэсэг юм.

Хиймэл оюун ухаан хэзээ дараах зүйлсийг үүсгэж чаддаг вэ:

  • танай гэр бүлийн гишүүний дуу хоолой шиг сонсогдож буй дуут мессеж ( FTC , FBI )

  • олон нийтийн зүтгэлтэн ямар нэгэн зүйл "хэлсэн" видео,

  • хангалттай жинхэнэ харагдаж байгаа хуурамч тоймуудын үер, ( FTC )

  • хуурамч ажлын түүхтэй, хуурамч найзуудтай хуурамч LinkedIn профайл..

...энэ нь зөвхөн луйврыг идэвхжүүлээд зогсохгүй. Энэ нь танихгүй хүмүүсийн зохицуулалтыг зөвшөөрдөг нийгмийн цавууг сулруулдаг. Нийгэм нь танихгүй хүмүүсийн зохицуулалтаар ажилладаг. 😵💫

"Хэтэрхий хол" гэдэг нь зүгээр л хуурамч контент биш юм

Энэ бол тэгш бус байдал :

  • Худлаа ярих нь хямдхан.

  • Үнэнийг баталгаажуулахад үнэтэй бөгөөд удаан байдаг.

  • Ихэнх хүмүүс завгүй, ядарсан, гүйлгэж суудаг.

Юу тусалдаг вэ (бага зэрэг)

  • Хэвлэл мэдээллийн хэрэгслийн гарал үүслийн тэмдэглэгээ. ( C2PA )

  • Вирал чанарыг эрхэмлэхийн төлөөх үрэлт - шууд масс хуваалцахыг удаашруулдаг.

  • Чухал тохиолдолд (санхүү, төрийн үйлчилгээ) илүү сайн үнэмлэх баталгаажуулалт.

  • Хувь хүмүүст зориулсан үндсэн "хамтлагаас гадуур баталгаажуулах" зуршил (буцааж залгах, нууц үг ашиглах, өөр сувгаар баталгаажуулах). ( FTC )

Тансаг биш. Гэхдээ суудлын бүс ч бас тийм биш, би хувьдаа эдгээрт их дуртай. 🚗

Хяналтын луйвар: хиймэл оюун ухаан бүх зүйлийг чимээгүйхэн мэдрэгч болгон хувиргах үед 📷🫥

Энэ нь гүн хуурамч шиг дэлбэрдэггүй. Зүгээр л тархдаг.

Хиймэл оюун ухаан нь дараах зүйлсийг хийхэд хялбар болгодог:

Энэ нь буруу байсан ч гэсэн хөндлөнгөөс оролцохыг зөвтгөж болох тул хор хөнөөлтэй хэвээр байж болно. Буруу таамаглал нь бодит үр дагаварт хүргэж болзошгүй.

Таагүй хэсэг

Хиймэл оюун ухаанаар ажилладаг хяналтын систем нь ихэвчлэн аюулгүй байдлын түүхтэй хамт ирдэг:

  • "Энэ нь залилангаас урьдчилан сэргийлэх зорилготой."

  • "Энэ бол аюулгүй байдлын үүднээс."

  • "Энэ нь хэрэглэгчийн туршлагыг нэмэгдүүлэх зорилготой."

Заримдаа энэ нь үнэн байдаг. Заримдаа энэ нь дараа нь задлахад маш хэцүү систем барих тохиромжтой шалтаг болдог. Тухайн үед үр дүнтэй мэт санагдсан тул өөрийн гэртээ нэг талын хаалга суурилуулахтай адил. Дахин хэлэхэд төгс зүйрлэл биш - жаахан инээдтэй - гэхдээ та үүнийг мэдэрч байна. 🚪😅

Энд "сайн" гэж юу харагдаж байна вэ

  • Хадгалах болон хуваалцах хатуу хязгаарлалтууд.

  • Тодорхой татгалзах.

  • Нарийн хэрэглээний тохиолдлууд.

  • Бие даасан хяналт.

  • Шийтгэл эсвэл хамгаалалтын зорилгоор "сэтгэл хөдлөлийн илрүүлэлт"-ийг ашиглахыг хориглоно. Гуйж байна. 🙃 ( ЕХ-ны хиймэл оюун ухааны тухай хууль )

Ажил, бүтээлч байдал, ширээний чимээгүй байдлын асуудал 🧑💻🎨

Энэ бол маргаан хувь хүний ​​​​шинж чанарт хөнддөг тул хувийн шинж чанартай болдог газар юм.

Хиймэл оюун ухаан нь хүмүүсийг илүү бүтээмжтэй болгож чадна. Энэ нь мөн хүмүүсийг орлуулагдах боломжтой мэт сэтгэгдэл төрүүлж чадна. Хоёулаа нэгэн зэрэг, нэг долоо хоногт үнэн байж болно. ( OECD , WEF )

Үнэхээр тустай газар

  • Хүмүүс сэтгэлгээнд анхаарлаа төвлөрүүлэхийн тулд ердийн текстийг зохиох.

  • Давтагдах хэв маягийн код бичих тусламж.

  • Хүртээмжтэй байдлын хэрэгслүүд (тайлбар бичих, хураангуйлах, орчуулга).

  • Гацсан үедээ тархиа шуурч байна.

Хаана хэтэрч байна

  • Шилжилтийн төлөвлөгөөгүйгээр үүргийг солих.

  • Цалинг тэгшитгэхийн зэрэгцээ гарцыг шахахын тулд хиймэл оюун ухаан ашиглах.

  • Бүтээлч ажлыг хязгааргүй үнэгүй сургалтын мэдээлэл мэтээр үзэж, дараа нь мөрөө хавчив. ( АНУ-ын Зохиогчийн эрхийн алба , Их Британи GOV.UK )

  • Залуу албан тушаалуудыг алга болгох нь ирээдүйн мэргэжилтнүүдийн авирах ёстой шатыг шатаасан гэдгээ ухаарах хүртэл үр дүнтэй сонсогдож байна.

Ур чадвараа дээшлүүлэх нь нарийн зүйл. Та үүнийг өдөр бүр анзаардаггүй. Тэгээд нэг өдөр та багийн хэн ч туслахгүйгээр энэ зүйл хэрхэн ажилладагийг санахгүй байгааг ойлгодог. Хэрэв туслах буруу байвал та бүгд хамтдаа өөртөө итгэлтэйгээр буруу бодож байна... энэ бол хар дарсан зүүд шиг л юм. 😬

Эрчим хүчний төвлөрөл: хэн анхдагч утгуудыг тохируулах вэ? 🏢⚡

Хэдийгээр хиймэл оюун ухаан "төвийг сахисан" байсан ч (тийм биш), үүнийг хянадаг хэн ч гэсэн дараахь зүйлийг хэлбэржүүлж чадна:

  • ямар мэдээлэлд хандахад хялбар байдаг вэ,

  • юу дэвших эсвэл оршуулах,

  • ямар хэлийг зөвшөөрдөг вэ,

  • ямар зан үйлийг дэмждэг вэ.

Хиймэл оюун ухааны системийг бүтээх, ажиллуулахад үнэтэй байж болох тул эрх мэдэл төвлөрөх хандлагатай байдаг. Энэ бол хуйвалдаан биш. Энэ бол технологийн малгайтай эдийн засаг юм. ( UK CMA )

Энд "хэтэрхий хол" мөч байна

Анхдагч алдаанууд үл үзэгдэх хууль болох үед:

  • юу шүүгдэж байгааг чи мэдэхгүй,

  • Та логикийг шалгаж чадахгүй,

  • мөн та ажил, олон нийт эсвэл үндсэн үйлчилгээнд хандах эрхээ алдалгүйгээр бодитоор татгалзаж чадахгүй.

Эрүүл экосистемд өрсөлдөөн, ил тод байдал, жинхэнэ хэрэглэгчийн сонголт хэрэгтэй. Үгүй бол та үндсэндээ бодит байдлыг түрээсэлж байна гэсэн үг. 😵♂️

Практик шалгах хуудас: Хиймэл оюун ухаан таны ертөнцөд хэт хол явж байгаа эсэхийг хэрхэн мэдэх вэ 🧾🔍

Миний ашигладаг гэдэсний шалгах жагсаалт энд байна (тийм ээ, энэ нь төгс биш):

Хэрэв та хувь хүн бол

  • Би хиймэл оюун ухаантай хэзээ харилцаж байгаагаа мэдэж чадна. ( Европын Комисс )

  • Энэ систем намайг хэт их хуваалцахад хүргэдэг.

  • Хэрэв гаралт нь итгэмээр байдлаар буруу байвал би зүгээр байх болно.

  • Хэрэв би үүнийг ашиглан залилан мэхлэгдвэл энэ платформ надад туслах байсан... эсвэл мөрөө хавчих байсан.

Хэрэв та бизнес эсвэл баг бол

  • Бид хиймэл оюун ухааныг үнэ цэнэтэй, эсвэл загварлаг, менежмент нь тогтворгүй учраас ашиглаж байна.

  • Систем ямар өгөгдөлд хүрдгийг бид мэднэ.

  • Нөлөөлөлд өртсөн хэрэглэгч үр дүнг давж заалдах боломжтой. ( UK ICO )

  • Хүмүүс загварыг давж гарах эрх мэдэлтэй.

  • Бид хиймэл оюун ухааны алдаа гарсан тохиолдолд хариу арга хэмжээ авах төлөвлөгөөтэй.

  • Бид хазайлт, буруу ашиглалт болон ер бусын ирмэгийн тохиолдлуудыг хянаж байна.

Хэрэв та эдгээрийн заримд нь "үгүй" гэж хариулсан бол энэ нь та хорон санаатан гэсэн үг биш. Энэ нь та "бид үүнийг илгээж, найдаж байсан" гэсэн хүний ​​​​хэвийн байдалд байгаа гэсэн үг юм. Гэхдээ харамсалтай нь найдаж байна гэдэг бол стратеги биш юм. 😅

Хаалтын тэмдэглэл 🧠✅

Тэгэхээр... Хиймэл оюун ухаан хэт хол явчихсан уу?
Хариуцлагагүйгээр ашигласан хэт хол явчихсан . Мөн итгэлцлийг үгүй ​​хийдэг хэт хол явчихсан - учир нь итгэлцэл нэгэнт тасарвал бүх зүйл илүү үнэтэй болж, нийгмийн хувьд илүү дайсагнасан болдог. ( NIST AI RMF 1.0 , Европын Холбооны Хиймэл Оюун Ухааны тухай хууль )

Гэхдээ хиймэл оюун ухаан нь төрөлхийн мөхөл эсвэл төрөлхийн төгс төгөлдөр биш. Энэ бол хүчирхэг үржүүлэгч юм. Асуулт нь бид чадавхийг бий болгодог шигээ хашлагыг эрчимтэй барьж байгаа эсэхэд оршино.

Товч тойм:

  • Хиймэл оюун ухаан нь хэрэгсэл болгон ашиглахад тохиромжтой.

  • Хариуцлага хүлээх чадваргүй эрх мэдэлтний хувьд энэ нь аюултай.

  • Хэрэв хэн нэгэн давж заалдах, ойлгох эсвэл татгалзах боломжгүй бол "хэтэрхий хол" гэдэг нь эндээс эхэлнэ. 🚦 ( GDPR-ийн 22-р зүйл , Их Британийн ICO )

Түгээмэл асуултууд

Хиймэл оюун ухаан өдөр тутмын амьдралдаа хэтэрхий хол явчихсан уу?

Олон газарт хиймэл оюун ухаан тодорхой хил хязгаар, хариуцлагагүйгээр шийдвэр, харилцаанд халтирч эхэлснээс болж хэтэрсэн. Асуудал нь ховор тохиолдолд "хиймэл оюун ухаан оршин тогтнодог"; энэ нь хиймэл оюун ухааныг ажилд авах, эрүүл мэндийн үйлчилгээ, харилцагчийн үйлчилгээ, хангамжид бага зэргийн хяналтгүйгээр чимээгүйхэн холбож байгаа явдал юм. Хүмүүс үүнийг хиймэл оюун ухаан гэдгийг нь ялгаж чадахгүй, үр дүнг нь эсэргүүцэж чадахгүй эсвэл татгалзаж чадахгүй үед энэ нь хэрэгсэл мэт санагдахаа больж, систем мэт санагдаж эхэлдэг.

Өндөр эрсдэлтэй шийдвэрүүдэд "хиймэл оюун ухаан хэт хол явж байна" гэдэг нь ямар харагддаг вэ?

Эрүүл мэнд, санхүү, орон сууц, ажил эрхлэлт, боловсрол, цагаачлал, эсвэл эрүүгийн шүүхийн салбарт бат бөх хамгаалалтгүйгээр хиймэл оюун ухааныг ашиглаж байгаа бололтой. Гол асуудал нь загварууд алдаа гаргадагт биш, харин эдгээр алдаа бодлого болж хатуурч, эсэргүүцэхэд хэцүү болдогт оршино. "Компьютер үгүй ​​гэж хэлдэг" гэсэн шийдвэрүүд нь нарийн тайлбартай, утга учиртай давж заалдах зүйлгүй байх нь хор хөнөөлийг хурдан нэмэгдүүлдэг.

Автомат шийдвэр надад нөлөөлж байгаа эсэхийг би хэрхэн мэдэх вэ, мөн би юу хийж чадах вэ?

Нийтлэг шинж тэмдэг бол таны тайлбарлаж чадахгүй гэнэтийн үр дүн юм: татгалзах, хязгаарлалт хийх эсвэл тодорхой шалтгаангүйгээр "эрсдэлийн оноо"-ны мэдрэмж. Олон систем хиймэл оюун ухаан хэзээ чухал үүрэг гүйцэтгэснийг илчлэх ёстой бөгөөд та шийдвэрийн цаад гол шалтгаан, давж заалдах алхмуудыг хүсэх боломжтой байх ёстой. Практикт хүнээр хянуулахыг хүсэх, буруу өгөгдлийг засах, шууд татгалзах замыг шаардах.

Хиймэл оюун ухаан нууцлал, зөвшөөрөл, өгөгдөл ашиглах тал дээр хэтрүүлчихсэн үү?

Зөвшөөрөл нь эрэл хайгуул болж, мэдээлэл цуглуулах нь "яг л болзошгүй" үед энэ нь ихэвчлэн тохиолддог. Өгүүллийн гол санаа нь нууцлал болон зөвшөөрөл нь орчинд нуугдсан эсвэл тодорхойгүй нөхцөлөөр албадсан тохиолдолд тийм ч их ач холбогдолтой биш юм. Илүү эрүүл арга бол өгөгдлийг багасгах явдал юм: бага цуглуулж, бага хадгалж, сонголтоо алдаагүй болго, ингэснээр хүмүүс хожим нь гайхахгүй.

Deepfakes болон хиймэл оюун ухааны луйвар нь онлайн орчинд "итгэлцэл" гэсэн утгатай зүйлийг хэрхэн өөрчилдөг вэ?

Тэд хуурамч дуу хоолой, видео, тойм, хувийн мэдээллийг итгүүлэх зардлыг бууруулснаар үнэнийг заавал биш мэт санагдуулдаг. Асимметри нь асуудал юм: худал мэдээлэл үүсгэх нь хямдхан байдаг бол үнэнийг баталгаажуулах нь удаан бөгөөд ядаргаатай байдаг. Практик хамгаалалтад хэвлэл мэдээллийн хэрэгслийн гарал үүслийн дохио, вирусын түгээлтийг удаашруулах, чухал газарт хувийн мэдээллийг илүү хүчтэй шалгах, буцааж залгах эсвэл хуваалцсан код үг ашиглах зэрэг "хамтлагаас гадуур баталгаажуулах" зуршил орно.

Хиймэл оюун ухааныг хэт хол явахаас сэргийлэх хамгийн практик хамгаалалтын хашлага юу вэ?

Үр дүнг өөрчилдөг хамгаалалтын хашлагад өндөр эрсдэлтэй дуудлагыг жинхэнэ хүнээр хянах, давж заалдах тодорхой үйл явц, алдаа гарсны дараа "юу болсон бэ?" гэж хариулах боломжтой аудитын бүртгэлүүд багтдаг. Загварын үнэлгээ болон алдааны туршилт нь урьдчилан таамаглаж болох хор хөнөөлийг эрт илрүүлж чаддаг бол улаан багийн туршилт нь халдагчид буруу ашиглалтыг дуурайлган хийдэг. Хурдны хязгаарлалт болон хандалтын хяналт нь зүй бус ашиглалтыг шууд өргөжүүлэхээс урьдчилан сэргийлэхэд тусалдаг бөгөөд өгөгдлийг багасгах нь эрсдэлийг бүхэлд нь бууруулдаг.

Хиймэл оюун ухаанаар удирдуулсан тандалт хэзээ хязгаарыг давдаг вэ?

Бүх зүйл анхдагчаар мэдрэгч болж хувирах үед энэ нь хязгаарыг давдаг: олны дунд нүүр царай таних, хөдөлгөөний хэв маягийг хянах, эсвэл шийтгэл эсвэл хаалгачийн үүрэг гүйцэтгэхэд ашигладаг итгэлтэй "сэтгэл хөдлөлийг илрүүлэх". Буруу системүүд хүртэл хөндлөнгөөс оролцох эсвэл үйлчилгээ үзүүлэхээс татгалзах үндэслэлтэй бол ноцтой хор хөнөөл учруулж болзошгүй. Сайн туршлага нь нарийн хэрэглээний тохиолдол, хатуу хадгалах хязгаарлалт, утга учиртай татгалзал, бие даасан хяналт, сэтгэл хөдлөлд суурилсан тогтворгүй дүгнэлтэд хатуу "үгүй" гэсэн үгсээр харагддаг.

Хиймэл оюун ухаан хүмүүсийг илүү бүтээмжтэй болгож байна уу эсвэл чимээгүйхэн ширээний ажил хийж байна уу?

Хоёулаа нэгэн зэрэг үнэн байж болох бөгөөд энэ хурцадмал байдал нь гол санаа юм. Хиймэл оюун ухаан нь ердийн ноорог бичих, давтагдсан код бичих хэв маяг, хүртээмжтэй байдалд тусалж, хүмүүсийг дээд түвшний сэтгэлгээнд анхаарлаа төвлөрүүлэх боломжийг олгодог. Энэ нь шилжилтийн төлөвлөгөөгүй үүргүүдийг орлох, цалин хөлсийг шахах, бүтээлч ажлыг үнэгүй сургалтын мэдээлэл мэт үзэх, эсвэл ирээдүйн мэргэжлийн ур чадварыг бий болгох бага үүргүүдийг хасах үед хэтэрсэн байдаг. Ур чадварын сургалт нь багууд туслахгүйгээр ажиллаж чадахгүй болтол нарийн хэвээр байна.

Лавлагаа

  1. Үндэсний Стандарт, Технологийн Хүрээлэн (NIST) - Хиймэл Оюун Ухааны Эрсдэлийн Удирдлагын Хүрээлэн (Хиймэл Оюун Ухааны RMF 1.0) - nist.gov

  2. Европын Холбоо - Европын Холбооны Хиймэл Оюун Ухааны тухай хууль (Зохицуулалт (ЕХ) 2024/1689) - Албан ёсны сэтгүүл (Англи хэл дээр) - europa.eu

  3. Европын Комисс - Хиймэл оюун ухааны зохицуулалтын хүрээ (ЕХ-ны Хиймэл оюун ухааны тухай хуулийн бодлогын хуудас) - europa.eu

  4. Европын Холбооны Хиймэл Оюун Ухааны Актын Үйлчилгээний Хэсэг - Хавсралт III (Өндөр эрсдэлтэй Хиймэл Оюун Ухааны Системүүд) - europa.eu

  5. Европын Холбоо - Европын Холбоонд найдвартай хиймэл оюун ухааны дүрэм (ЕХ-ны хиймэл оюун ухааны тухай хуулийн хураангуй) - europa.eu

  6. Их Британийн Мэдээллийн Комиссарын Газар (ICO) - Хувь хүний ​​шийдвэр гаргалт болон профайлжуулалтыг автоматжуулсан гэж юу вэ? - ico.org.uk

  7. Их Британийн Мэдээллийн Комиссарын Газар (ICO) - Их Британийн GDPR нь автоматжуулсан шийдвэр гаргалт болон профайлжуулалтын талаар юу гэж хэлдэг вэ? - ico.org.uk

  8. Их Британийн Мэдээллийн Комиссарын Газар (ICO) - Автоматжуулсан шийдвэр гаргалт ба профайл (удирдамжийн төв) - ico.org.uk

  9. Их Британийн Мэдээллийн Комиссарын Газар (ICO) - Өгөгдлийг багасгах (Их Британийн GDPR зарчмуудын удирдамж) - ico.org.uk

  10. GDPR-info.eu - GDPR-ийн 22-р зүйл - gdpr-info.eu

  11. GDPR-info.eu - GDPR-ийн 5-р зүйл - gdpr-info.eu

  12. АНУ-ын Холбооны Худалдааны Комисс (FTC) - Луйварчид гэр бүлийн онцгой байдлын схемээ сайжруулахын тулд хиймэл оюун ухааныг ашигладаг - ftc.gov

  13. АНУ-ын Холбооны Худалдааны Комисс (FTC) - Луйварчид таны мөнгийг хулгайлахын тулд хуурамч онцгой байдлын хэрэгслийг ашигладаг - ftc.gov

  14. АНУ-ын Холбооны Худалдааны Комисс (FTC) - Хуурамч тойм, гэрчлэлийг хориглох эцсийн дүрэм (хэвлэлийн мэдээ) - ftc.gov

  15. Холбооны Мөрдөх Товчоо (FBI) - Хиймэл оюун ухааныг ашиглан кибер гэмт хэрэгтнүүд нэмэгдэж буй аюул заналхийллийн талаар FBI анхааруулж байна - fbi.gov

  16. Эдийн засгийн хамтын ажиллагаа, хөгжлийн байгууллага (OECD) - OECD-ийн хиймэл оюун ухааны зарчмууд - oecd.ai

  17. OECD - Хиймэл оюун ухааны зөвлөлийн зөвлөмж (OECD/LEGAL/0449) - oecd.org

  18. Европын Комисс - Ил тод хиймэл оюун ухааны системийн удирдамж ба практикийн код (FAQs) - europa.eu

  19. Контентын гарал үүсэл ба жинхэнэ байдлын эвсэл (C2PA) - Үзүүлэлтүүд v2.3 - c2pa.org

  20. Их Британийн Өрсөлдөөн ба Зах Зээлийн Газар (CMA) - Хиймэл Оюун Ухааны суурь загварууд: анхны тайлан - gov.uk

  21. АНУ-ын Хүнс, Эмийн Захиргаа (FDA) - Хиймэл оюун ухаанаар ажилладаг эмнэлгийн төхөөрөмжүүд - fda.gov

  22. NIST - Мэдээллийн систем болон байгууллагуудын аюулгүй байдал болон нууцлалын хяналт (SP 800-53 Хувилбар 5) - nist.gov

  23. NIST - Үүсгэн байгуулагч хиймэл оюун ухааны профайл (NIST.AI.600-1, ipd) - nist.gov

  24. Дэлхий даяар нээлттэй аппликейшны аюулгүй байдлын төсөл (OWASP) - Хязгааргүй нөөцийн хэрэглээ (API аюулгүй байдлын шилдэг 10, 2023) - owasp.org

  25. NIST - Нүүр царай таних үйлчилгээ үзүүлэгчийн тест (FRVT) - Хүн ам зүйн мэдээлэл - nist.gov

  26. Барретт нар (2019) - Нийтлэл (PMC) - nih.gov

  27. OECD - Ажлын байран дээр хиймэл оюун ухааныг ашиглах нь (PDF) - oecd.org

  28. Дэлхийн Эдийн Засгийн Форум (ДЭФ) - 2025 оны Ажлын байрны ирээдүйн тайлан - Дайжест - weforum.org

  29. АНУ-ын Зохиогчийн эрхийн газар - Зохиогчийн эрх ба хиймэл оюун ухаан, 3-р хэсэг: Хиймэл оюун ухааныг хөгжүүлэх сургалтын тайлан (Хэвлэхээс өмнөх хувилбар) (PDF) - copyright.gov

  30. Их Британийн Засгийн газар (GOV.UK) - Зохиогчийн эрх ба хиймэл оюун ухаан (зөвлөгөө) - gov.uk

Албан ёсны хиймэл оюун ухааны туслах дэлгүүрээс хамгийн сүүлийн үеийн хиймэл оюун ухааныг олоорой

Бидний тухай

Блог руу буцах