Хүмүүс энгийн дүгнэлт хүсдэг. Догол мөр оруулаад, товчлуур дарахад илрүүлэгч танд багахан хувьтай Үнэнийг
Гэхдээ бичих нь цэгцтэй биш. Мөн "хиймэл оюун ухааны текст" ч бас ганц зүйл . Энэ бол шөл. Заримдаа бүрэн эхээр нь бүтээгдсэн, заримдаа бага зэрэг тусалсан, заримдаа хиймэл оюун ухааныг өнгөлсөн хүний ноорог, заримдаа оройн хоолон дээр муур шиг сэмхэн орж ирсэн хэдэн робот өгүүлбэртэй хүний ноорог байдаг 😼.
хиймэл оюун ухааны илрүүлэгч найдвартай эсэх нь асуулт болж байна .
зөвлөгөө , түлхэлт, "магадгүй ойроос хар" гэсэн дохио болгон тустай байж болно баталгаа болгон найдвартай биш . Ойрхон ч биш. Мөн илрүүлэгч үйлдвэрлэдэг компаниуд хүртэл үүнийг ямар нэгэн байдлаар (заримдаа чангаар, заримдаа нарийн үсгээр) хэлэх хандлагатай байдаг. Жишээлбэл, OpenAI нь хиймэл оюун ухаанаар бичигдсэн бүх текстийг, тэр ч байтугай утга учиртай алдааны түвшин болон хуурамч эерэг үр дүнг харуулсан нийтлэгдсэн үнэлгээний тоонуудыг найдвартай илрүүлэх боломжгүй . [1]
Үүний дараа унших дуртай нийтлэлүүд:
🔗 Хиймэл оюун ухааны илрүүлэлт хэрхэн ажилладаг вэ
Хэв маяг болон магадлалыг ашиглан хиймэл оюун ухааны бичвэрийг хэрэгслүүд хэрхэн илрүүлж байгааг хараарай.
🔗 Хиймэл оюун ухаан чиг хандлагыг хэрхэн урьдчилан таамагладаг вэ
Алгоритмууд өгөгдөл болон дохионоос ирэх эрэлтийг хэрхэн урьдчилан таамагладаг болохыг ойлгох.
🔗 Утсан дээрээ хиймэл оюун ухааныг хэрхэн ашиглах вэ
Өдөр тутмын ажлуудад хиймэл оюун ухааны аппликейшнуудыг ашиглах практик аргууд.
🔗 Текстийг ярианд хувиргах нь хиймэл оюун ухаан мөн үү?
TTS системүүд бичгээр бичсэн текстээс байгалийн дуу хоолойг хэрхэн үүсгэдэг болохыг олж мэдээрэй.
Хүмүүс яагаад хиймэл оюун ухаан илрүүлэгч найдвартай эсэхийг асуусаар байгаа юм бэ 😅
Учир нь бооцоо хачин жигтэй өндөр, хурдан болсон.
-
Багш нар эрдмийн шударга ёсыг хамгаалахыг хүсдэг 🎓
-
Редакторууд бага хүчин чармайлт шаарддаг спам нийтлэлүүдийг зогсоохыг хүсч байна 📰
-
Ажилд авах менежерүүд жинхэнэ бичгийн дээж авахыг хүсдэг 💼
-
Оюутнууд хилс хэрэгт буруутгагдахаас зайлсхийхийг хүсч байна 😬
-
Брэндүүд хуулбарлаж буулгах контент үйлдвэр биш, харин тогтвортой дуу хоолойг хүсдэг 📣
Мөн зүрх сэтгэлийн түвшинд "энэ бол бодит" эсвэл "энэ бол хуурамч" гэж баттай хэлж чаддаг машины тав тухыг хүсэх хүсэл төрдөг. Яг л нисэх онгоцны буудлын металл илрүүлэгч шиг.
Гэхдээ ... хэл бол металл биш. Хэл бол манантай илүү төстэй. Та гар чийдэнгээ түүн рүү чиглүүлж болох ч хүмүүс харсан зүйлийнхээ талаар маргалдсаар л байдаг.
Практикт найдвартай байдал болон туршилтын туршилтын харьцуулалт 🎭
Хяналттай нөхцөлд мэдрэгчүүд гайхалтай харагдаж болно. Өдөр тутмын хэрэглээнд энэ нь тийм ч цэвэрхэн биш болдог - учир нь мэдрэгчүүд "зохиогчийг хардаггүй", тэд хэв маягийг .
OpenAI-ийн одоо зогсоосон текст ангилагчийн хуудас хүртэл гол асуудлын талаар шулуухан хэлсэн: найдвартай илрүүлэлт баталгаатай биш бөгөөд гүйцэтгэл нь текстийн урт (богино текст илүү хэцүү байдаг). Тэд мөн буулт хийх тодорхой жишээг хуваалцсан: хиймэл оюун ухааны текстийн зөвхөн нэг хэсгийг л барьж авахын зэрэгцээ заримдаа хүний текстийг буруу шошголох нь. [1]
Өдөр тутмын бичих үйл явц нь төөрөгдөлөөр дүүрэн байдаг:
-
хүнд засварлалт
-
загварууд
-
техникийн өнгө аяс
-
төрөлх бус хэллэг
-
богино хариултууд
-
хатуу эрдэм шинжилгээний формат
-
"Би үүнийг үүрийн 2 цагт бичсэн бөгөөд тархи минь эрч хүчээр дүүрэн байлаа"
Тиймээс илрүүлэгч нь хэв маягт . Энэ нь үйрмэгийг нь хараад хэн бялуу хийснийг тодорхойлохыг оролдохтой адил юм. Заримдаа та тааж болно. Заримдаа та зүгээр л үйрмэгийн мэдрэмжийг шүүж байдаг.
Хиймэл оюун ухаан илрүүлэгч хэрхэн ажилладаг (мөн яагаад эвдэрдэг вэ) 🧠🔧
Байгальд тааралддаг ихэнх "хиймэл оюун ухаан илрүүлэгч" нь хоёр үндсэн горимд хуваагддаг:
1) Хэв маягт суурилсан илрүүлэлт (текстийн хэв маягаас таах)
Үүнд сонгодог "ангилагч" аргууд болон урьдчилан таамаглах/төөрөгдөлд автсан аргууд багтана. Энэ хэрэгсэл нь тодорхой загварын гаралтад гарч ирэх хандлагатай
Яагаад эвдэрдэг вэ:
-
Хүний бичвэр нь "статистик" харагдаж болно (ялангуяа албан ёсны, рубрик дээр суурилсан эсвэл загварчилсан бичвэр).
-
Орчин үеийн бичвэрүүд ихэвчлэн холимог (хүний + засварлалт + хиймэл оюун ухааны саналууд + дүрмийн хэрэгслүүд).
-
Хэрэгслүүд туршилтын тав тухтай бүсээсээ гадуур хэт өөртөө итгэлтэй болж болно. [1]
2) Гарал үүсэл / усны тэмдэглэгээ (баталгаажуулах, таах биш)
Гарал үүслийн системүүд нь "үйрмэг чичиргээ"-нээс зохиогчийн эрхийг таамаглахыг оролдохын оронд гарал үүслийн нотолгооны мета өгөгдлийг хавсаргах эсвэл дараа нь шалгаж болох дохионуудыг
NIST-ийн синтетик контентын талаарх ажил нь энд гол бодит байдлыг онцолж байна: усны тэмдэг илрүүлэгч хүртэл тэгээс ялгаатай хуурамч эерэг ба хуурамч сөрөг үр дүнтэй бөгөөд найдвартай байдал нь усны тэмдэг нь бүтээгдсэнээс хойшхи аяллын туршид үлдэх эсэхээс хамаарна → засвар → дахин нийтлэх → дэлгэцийн зураг → платформ боловсруулалт. [2]
Тиймээс тийм ээ, гарал үүсэл нь зарчмын хувьд илүү цэвэрхэн ... гэхдээ экосистем үүнийг бүрэн дэмжиж байгаа тохиолдолд л.
Том алдааны горимууд: хуурамч эерэг ба хуурамч сөрөг 😬🫥
Энэ бол үүний гол цөм нь юм. Хэрэв та хиймэл оюун ухаан илрүүлэгч найдвартай эсэхийг мэдэхийг хүсвэл дараах асуултыг асуух хэрэгтэй: ямар үнээр вэ?
Хуурамч эерэг үр дүн (хүн хиймэл оюун ухаан гэж тэмдэглэсэн) 😟
Энэ бол сургууль, ажлын байран дахь хар дарсан зүүд юм: хүн ямар нэгэн зүйл бичээд, тэмдэглэгээ авчихаад гэнэт дэлгэцэн дээрх тооноос өөрийгөө хамгаалж эхэлдэг.
Энд өвдөлттэй нийтлэг хэв маяг байна:
Нэгэн оюутан богино эргэцүүлэл (жишээ нь хэдэн зуун үг) бичжээ.
Илрүүлэгч өөртөө итгэлтэй харагдаж буй оноог гаргажээ.
Бүгд сандарчээ.
Дараа нь та уг хэрэгсэл өөрөө богино бичвэрүүд нь найдвар багатай байж болох бөгөөд оноог сөрөг үйлдлийн цорын ганц үндэслэл болгон ашиглах ёсгүй гэдгийг анхааруулж байгааг мэдэж авлаа. [3]
Turnitin-ий өөрийн удирдамжид (хэвлэлийн тэмдэглэл/баримт бичигтээ) 300 үгнээс бага хэмжээтэй материалууд нь нарийвчлал багатай байж болзошгүйг , байгууллагуудад оюутны эсрэг сөрөг үйлдэл хийх цорын ганц үндэслэл болгон хиймэл оюун ухааны оноог ашиглахгүй байхыг сануулж байна. [3]
Хуурамч эерэг үр дүн нь дараах байдлаар бичих үед гарч ирэх хандлагатай байдаг:
-
хэт албан ёсны
-
дизайны хувьд давтагддаг (рубрик, тайлан, брэндийн загвар)
-
богино (дохио бага, таамаглал их)
-
маш сайн хянаж, өнгөлсөн
Илрүүлэгч нь үндсэндээ "Энэ бол миний хиймэл оюун ухаанаас харсан текст шиг харагдаж байна" гэж хэлж чадна, гэхдээ энэ нь хорон санаа биш. Энэ бол зүгээр л итгэлцлийн гулсагчаар загварыг тохируулах явдал юм.
Хуурамч сөрөг үр дүн (хиймэл оюун ухаан тэмдэглэгдээгүй) 🫥
Хэрэв хэн нэгэн хиймэл оюун ухаан ашиглаад бага зэрэг засвар хийвэл - дахин дараалалд оруулбал, дахин хэллэг оруулбал, хүний цохилт хийвэл - илрүүлэгч үүнийг анзаарахгүй байж магадгүй. Түүнчлэн, худал буруутгалаас зайлсхийхийн тулд тохируулсан хэрэгслүүд нь хиймэл оюун ухааны текстийг ихэвчлэн санаатайгаар (энэ бол босго буулт) алдах болно. [1]
Тиймээс та хамгийн муу хослолыг авч болно:
-
чин сэтгэлээсээ бичсэн хүмүүс заримдаа тэмдэглэгддэг
-
шийдэмгий луйварчид ихэвчлэн тэгдэггүй
Үргэлж биш. Гэхдээ мэдрэгчийг "нотолгоо" болгон ашиглах нь эрсдэлтэй байдаг.
"Сайн" детекторын тохиргоог юу тодорхойлдог вэ (детекторууд төгс биш байсан ч гэсэн) ✅🧪
Хэрэв та ямар ч байсан нэгийг ашиглах гэж байгаа бол (учир нь байгууллагууд байгууллагын ажлыг хийдэг) сайн тохиргоо нь "шүүгч + тангарагтны шүүх" гэхээсээ илүү "ангилал + нотлох баримт" гэх мэт харагдана
Хариуцлагатай тохиргоонд дараахь зүйлс орно
-
Ил тод хязгаарлалтууд (богино текст анхааруулга, домэйны хязгаарлалт, итгэлцлийн хүрээ) [1][3]
-
Тодорхой босго + тодорхойгүй байдал нь хүчин төгөлдөр үр дүн ("бид мэдэхгүй" гэдэг нь хориотой байх ёсгүй)
-
Хүний хяналт болон үйл явцын нотолгоо (ноорог, тойм, засварласан түүх, иш татсан эх сурвалжууд)
-
Зөвхөн оноо авсан, шийтгэл оноо авсан шийдвэрийг илт хориглодог бодлого [3]
-
Нууцлалын хамгаалалт (мэдрэмжтэй бичвэрийг эргэлзээтэй хяналтын самбар руу оруулахгүй байх)
Харьцуулсан хүснэгт: илрүүлэлт ба баталгаажуулалтын аргууд 📊🧩
Энэ ширээ нь санаатайгаар бага зэрэг хачин жигтэй зүйлтэй, учир нь хүн хүйтэн цай балгаж байхдаа ширээ хийхдээ ингэж харагддаг ☕.
| Хэрэгсэл / арга | Үзэгчид | Ердийн хэрэглээ | Энэ яагаад ажилладаг вэ (бас яагаад ажилладаггүй вэ) |
|---|---|---|---|
| Загварт суурилсан хиймэл оюун ухааны илрүүлэгч (ерөнхий "хиймэл оюун ухааны оноо" хэрэгслүүд) | Хүн бүр | Түргэн ангилах | Хурдан бөгөөд хялбар боловч хэв маягийг гарал үүсэлтэй нь бөгөөд богино эсвэл их засварласан текст дээр илүү тогтворгүй байх хандлагатай байдаг. [1] |
| Байгууллагын илрүүлэгч (LMS-нэгдсэн) | Сургууль, их дээд сургуулиуд | Ажлын урсгалыг тэмдэглэж байна | Шалгалт хийхэд тохиромжтой боловч нотлох баримт гэж үзвэл эрсдэлтэй; олон хэрэгсэл зөвхөн онооны үр дүнгийн талаар тодорхой анхааруулдаг. [3] |
| Гарал үүслийн стандартууд (Контентын итгэмжлэл / C2PA хэв маяг) | Платформууд, мэдээний өрөөнүүд | Гарал үүслийн мөр + засварууд | Эцэс төгсгөл хүртэл батлагдсан үед илүү хүчтэй; өргөн хүрээтэй экосистемд амьд үлдэх мета өгөгдөлд тулгуурладаг. [4] |
| Усны тэмдэглэгээний экосистем (жишээ нь, үйлдвэрлэгчдэд тохирсон) | Багаж хэрэгсэл үйлдвэрлэгчид, платформууд | Дохионд суурилсан баталгаажуулалт | Агуулга нь усан тэмдэглэгээний хэрэгслээс гарч ирэх бөгөөд дараа нь илрүүлэх боломжтой үед ажилладаг; бүх нийтийн биш бөгөөд илрүүлэгчид алдааны түвшин хэвээр байна. [2][5] |
Боловсролын салбарт илрүүлэгч төхөөрөмжүүд 🎓📚
Мэдрэгчдэд боловсрол хамгийн хүнд орчин болдог, учир нь хор хөнөөл нь хувийн болон шууд хамааралтай байдаг.
Оюутнуудыг бүтцээр нь үнэлдэг тул тэднийг ихэвчлэн "томъёотой" харагдах байдлаар бичихийг заадаг:
-
дипломын ажлын мэдэгдэл
-
догол мөрийн загварууд
-
тогтвортой өнгө аяс
-
албан ёсны шилжилтүүд
Тиймээс илрүүлэгчид сурагчдыг дүрмийг дагаж мөрдсөнийх нь төлөө шийтгэж болзошгүй.
Хэрэв сургууль илрүүлэгч ашигладаг бол хамгийн найдвартай арга нь ихэвчлэн дараахь зүйлийг агуулдаг
-
илрүүлэгчийг зөвхөн ангилах
-
хүний хяналтгүйгээр торгууль ногдуулахгүй
-
оюутнуудад өөрсдийн үйл явцыг тайлбарлах боломж
-
үнэлгээний нэг хэсэг болгон ноорог түүх / тойм / эх сурвалжууд
-
шаардлагатай үед аман хяналтын үзлэг
Тийм ээ, аман хяналтын үзлэг нь байцаалт мэт санагдаж болно. Гэхдээ энэ нь "робот таныг хуурсан гэж хэлсэн"-ээс илүү шударга байж болох юм, ялангуяа илрүүлэгч өөрөө зөвхөн онооны шийдвэр гаргахаас сэрэмжлүүлдэг үед. [3]
Ажилд авах болон ажлын байран дээр бичих зориулалттай детекторууд 💼✍️
Ажлын байран дээрх бичвэрүүд ихэвчлэн:
-
загварчилсан
-
өнгөлсөн
-
давтагдсан
-
олон хүн засварласан
Өөрөөр хэлбэл: энэ нь хүн байсан ч алгоритм шиг харагдаж болно.
Хэрэв та ажилд авч байгаа бол илрүүлэгч онооноос илүү сайн арга бол:
-
Бодит ажлын даалгавартай холбоотой бичих хүсэлт гаргах
-
богино шууд дамжуулалт нэмэх (бүр 5 минут ч гэсэн)
-
зөвхөн "хэв маяг"-ыг бус, харин үндэслэл, тодорхой байдлыг үнэл
-
нэр дэвшигчдэд хиймэл оюун ухааны тусламжийн дүрмийг урьдчилан мэдэгдэхийг зөвшөөрөх
Орчин үеийн ажлын урсгалд "хиймэл оюун ухааныг илрүүлэх" оролдлого нь хэн нэгэн зөв бичгийн алдаа шалгагч ашигласан эсэхийг илрүүлэхтэй адил юм. Эцэст нь та хараагүй байхад дэлхий ертөнц өөрчлөгдсөнийг та ойлгодог. [1]
Хэвлэн нийтлэгчид, SEO болон модераторуудад зориулсан илрүүлэгч 📰📈
багцын ангиллын ажилд тустай байж болно : хүний хяналтад зориулж сэжигтэй агуулгын овоолгыг тэмдэглэдэг.
Гэхдээ нямбай редактор нь илрүүлэгчээс илүү "хиймэл оюун ухаантай" асуудлуудыг илүү хурдан илрүүлдэг, учир нь редакторууд дараах зүйлсийг анзаардаг:
-
тодорхой мэдээлэлгүй тодорхой бус нэхэмжлэлүүд
-
нотлох баримтгүй өөртөө итгэлтэй өнгө аяс
-
бетоны бүтэц дутуу байна
-
"Угсарсан" хэллэг нь бодит амьдрал дээр оршин тогтнож байсан мэт сонсогдохгүй байна
Энд нэг эргэцүүлэл байна: энэ бол ид шидийн супер хүч биш. Энэ бол зүгээр л итгэлцлийн дохио .
Цэвэр илрүүлэлтээс илүү сайн хувилбарууд: гарал үүсэл, боловсруулалт, "ажлаа харуулах" 🧾🔍
Хэрэв илрүүлэгч нь нотолгоо болгон найдваргүй бол илүү сайн сонголтууд нь ганц оноо шиг биш, харин давхарласан нотолгоо шиг харагдах хандлагатай байдаг.
1) Нотлох баримт боловсруулах (дур булаам баатар) 😮💨✅
-
ноорог
-
засварын түүх
-
тэмдэглэл ба тоймууд
-
ишлэлүүд болон эх сурвалжийн мөрүүд
-
мэргэжлийн бичихэд зориулсан хувилбарын хяналт
2) "Ойлгосон" биш жинхэнэ эсэхийг шалгадаг 🗣️
-
"Та яагаад энэ бүтцийг сонгосон бэ?"
-
"Та ямар хувилбараас татгалзсан бэ, яагаад?"
-
"Энэ догол мөрийг залуу хүнд тайлбарлаж өг."
3) Гарал үүслийн стандарт + боломжтой бол усан тэмдэглэгээ 🧷💧
дижитал контентын
гарал үүсэл болон засварлах түүхийг мөрдөхөд нь туслах зорилготой юм Үүний зэрэгцээ, Google-ийн SynthID экосистем нь дэмжигдсэн Google хэрэгслүүдээр (мөн байршуулсан файлуудыг сканнердаж, усны тэмдэглэгээтэй байж болзошгүй хэсгүүдийг тодруулдаг илрүүлэгч портал) үүсгэсэн контентыг усан тэмдэглэгээ хийх, дараа нь илрүүлэхэд анхаарлаа хандуулдаг. [5]
Эдгээр нь баталгаажуулалтын арга барилууд бөгөөд төгс биш, бүх нийтийнх биш боловч "чичиргээнээс таамаглах"-аас илүү тодорхой чиглэлд чиглэгдсэн байдаг. [2]
4) Бодит байдалтай нийцсэн тодорхой бодлого 📜
"Хиймэл оюун ухааныг хориглосон" гэдэг нь энгийн... бөгөөд ихэнхдээ бодит бус юм. Олон байгууллага дараах чиглэл рүү шилжиж байна:
-
"Хиймэл оюун ухаан эцсийн хувилбарыг биш, харин санаа боловсруулах боломжийг олгодог"
-
"Хэрэв ил болговол хиймэл оюун ухааныг зөвшөөрнө"
-
"Хиймэл оюун ухаан нь дүрэм, тодорхой байдлыг зөвшөөрдөг боловч анхны үндэслэл нь таных байх ёстой"
Хиймэл оюун ухааны илрүүлэгчийг ашиглах хариуцлагатай арга (шаардлагатай бол) ⚖️🧠
-
Илрүүлэгчийг зөвхөн туг болгон ашиглаарай
. Шийтгэх арга хэмжээ биш. Шийтгэх шалтгаан биш. [3] -
Текстийн төрлийг шалгана уу.
Богино хариулт уу? Сумны жагсаалт уу? Их засварласан уу? Илүү шуугиантай үр дүн хүлээж байгаарай. [1][3] -
Үндэслэлтэй нотлох баримтуудыг хайж олоорой.
Ноорог, лавлагаа, цаг хугацааны явцад тогтвортой санал бодол, зохиогчийн сонголтыг тайлбарлах чадвар. -
Холимог зохиогч одоо хэвийн болсон гэж үзье.
Хүмүүс + редакторууд + дүрмийн хэрэгслүүд + хиймэл оюун ухааны саналууд + загварууд ... Мягмар гараг. -
Хэзээ ч ганц тоонд найдаж болохгүй.
Ганц оноо нь залхуу шийдвэр гаргахад хүргэдэг бөгөөд залхуу шийдвэр нь худал буруутгал хэрхэн үүсдэгийг харуулдаг. [3]
Хаалтын тэмдэглэл ✨
Тиймээс найдвартай байдлын зураг дараах байдалтай байна
-
Бараг л зөвлөгөө болгон найдвартай: заримдаа ✅
-
Баталгаа болгон найдвартай: үгүй ❌
-
Шийтгэл эсвэл хасалтын цорын ганц үндэслэл болгон аюулгүй: огт үгүй 😬
Мэдрэгчийг утааны дохиолол шиг харьц:
-
энэ нь таныг илүү ойроос харах хэрэгтэйг харуулж магадгүй юм
-
энэ нь юу болсныг яг таг хэлж чадахгүй
-
энэ нь мөрдөн байцаалт, нөхцөл байдал болон үйл явцын нотлох баримтыг орлож чадахгүй
Нэг товшилтоор үнэний машинууд нь ихэвчлэн шинжлэх ухааны уран зөгнөлт эсвэл мэдээллийн сурталчилгаанд зориулагдсан байдаг.
Лавлагаа
[1] OpenAI - Хиймэл оюун ухаанаар бичсэн текстийг заах шинэ хиймэл оюун ухааны ангилагч (хязгаарлалт + үнэлгээний хэлэлцүүлэг багтсан) - дэлгэрэнгүй унших
[2] NIST - Синтетик контентоос үүдэлтэй эрсдэлийг бууруулах (NIST AI 100-4) - дэлгэрэнгүй
[3] Turnitin - Хиймэл оюун ухаанаар бичсэн текстийг илрүүлэх загвар (богино текст дээр анхааруулга багтсан + сөрөг үйлдлийн цорын ганц үндэслэл болгон оноо ашиглахгүй байх) - дэлгэрэнгүй унших
[4] C2PA - C2PA / Контентын итгэмжлэлийн тойм - дэлгэрэнгүй унших
[5] Google - SynthID илрүүлэгч - Хиймэл оюун ухаанаар үүсгэгдсэн контентыг тодорхойлоход туслах портал - дэлгэрэнгүй унших