Товчхондоо: Хиймэл оюун ухааныг өө сэвгүй, гар ашиглахгүй эсвэл ажлын байрыг орлох гэж сурталчлах үед хэт их зарагддаг; ноорог хийх, код бичих дэмжлэг, ангилах, өгөгдөл хайхад хяналттай хэрэгсэл болгон ашиглах үед хэт их зарагддаггүй. Хэрэв танд үнэн хэрэгтэй бол баталгаажсан эх сурвалжид үндэслэн, тойм нэмэх ёстой; эрсдэл нэмэгдэхийн хэрээр засаглал чухал болдог.
Үүний дараа таны унших дуртай нийтлэлүүд:
Гол дүгнэлтүүд:
Хэтрүүлэн мэдэгдэх дохио: “Бүрэн бие даасан” болон “төгс үнэн зөв удахгүй” гэсэн мэдэгдлийг аюулын дохио гэж үз.
Найдвартай байдал: Өөртөө итгэлтэй буруу хариулт хүлээж, буцаан авах, баталгаажуулах, хүний хяналт шаарддаг.
Хэрэглэх сайн тохиолдлууд: Амжилтын тодорхой үзүүлэлттэй, эрсдэл багатай, давтагдах боломжтой нарийн ажлуудыг сонгоорой.
Хариуцлага: Гаралт, хяналт шалгалт, буруу үед юу болох талаар хүний эзэмшигчийг томил.
Засаглал: Мөнгө, аюулгүй байдал эсвэл эрхийн асуудалд хүрээ болон ослын талаарх мэдээллийг задруулах арга барилыг ашигла.
🔗 Танд аль хиймэл оюун ухаан тохирох вэ?
Нийтлэг хиймэл оюун ухааны хэрэгслүүдийг зорилго, төсөв, хялбар байдлаар нь харьцуул.
🔗 Хиймэл оюун ухааны бөмбөлөг үүсч байна уу?
Хямралын шинж тэмдэг, эрсдэл, тогтвортой өсөлт ямар байх вэ.
🔗 Хиймэл оюун ухааны илрүүлэгч нь бодит ертөнцөд найдвартай юу?
Нарийвчлалын хязгаар, хуурамч эерэг үр дүн, шударга үнэлгээний зөвлөмжүүд.
🔗 Өдөр бүр утсан дээрээ хиймэл оюун ухааныг хэрхэн ашиглах вэ
Цаг хэмнэхийн тулд гар утасны аппликейшн, дуут туслах болон зааварчилгаа ашиглаарай.
Хүмүүс "Хиймэл оюун ухаан хэт магтагдсан" гэж хэлэхдээ ихэвчлэн юу гэж хэлдэг вэ 🤔
Хэн нэгэн хиймэл оюун ухааныг хэт магтаж байна гэж хэлэхдээ тэд ихэвчлэн дараах зөрүүтэй зүйлсийн аль нэгэнд (эсвэл хэд хэдэн) хариу үйлдэл үзүүлдэг:
-
Маркетингийн амлалтууд ба өдөр тутмын бодит байдал.
Демо нь ид шидийн мэт харагдаж байна. Нэвтрүүлэлт нь наалдамхай тууз болон залбирал шиг санагдаж байна. -
Чадвар ба найдвартай байдал.
Энэ нь шүлэг бичиж, гэрээ орчуулж, кодыг алдааг олж засварлаж чадна... тэгээд бодлогын холбоосыг өөртөө итгэлтэйгээр зохион бүтээж чадна. Гоё гоё гоё. -
Дэвшил ба практик байдал
Загварууд хурдан сайжирдаг ч тэдгээрийг бизнесийн үйл явцтай нэгтгэх нь удаан, улс төрийн хувьд төвөгтэй бөгөөд олон давуу талтай байдаг. -
"Хүмүүсийг орлох" өгүүлэмжүүд
Ихэнх жинхэнэ ялалтууд нь "бүх ажлыг орлох"-оос илүү "уйтгартай хэсгүүдийг арилгах"-тай илүү төстэй харагддаг.
Гол хурцадмал байдал нь энэ юм: хиймэл оюун ухаан үнэхээр хүчирхэг боловч ихэвчлэн аль хэдийн дууссан мэт зарагддаг. Дуусаагүй. Энэ нь ... дуусаагүй байна. Яг л гайхалтай цонхтой, сантехникгүй байшин шиг 🚽
Хиймэл оюун ухааны хэт хөөрөгдсөн мэдэгдэл яагаад ийм амархан тохиолддог (бас үргэлжилсээр байдаг) вэ 🎭
Хиймэл оюун ухаан соронз мэт хөөрөгдсөн мэдэгдлүүдийг татдаг хэд хэдэн шалтгаан:
Демо нь үндсэндээ хуурч байна (хамгийн сайхан аргаар)
Демо хувилбаруудыг сонгосон. Сануулгыг тохируулсан. Өгөгдөл цэвэрхэн. Хамгийн сайн тохиолдолд анхаарлын төвд орж, бүтэлгүйтсэн тохиолдлууд нь тайзны ард жигнэмэг идэж байгаа мэт санагддаг.
Амьд үлдэх тал дээр хэт их анхаарах хандлагатай байна
"Хиймэл оюун ухаан бидэнд сая цаг хэмнэсэн" гэсэн түүхүүд интернетэд тархсан. "Хиймэл оюун ухаан биднийг бүх зүйлийг хоёр удаа дахин бичихэд хүргэсэн" гэсэн түүхүүд хэн нэгний "Q3 туршилтууд" нэртэй төслийн хавтсанд чимээгүйхэн нуугдсан байдаг 🫠
Хүмүүс чөлөөтэй байдлыг үнэнтэй андуурдаг
Орчин үеийн хиймэл оюун ухаан өөртөө итгэлтэй, тустай, тодорхой сонсогдож болох бөгөөд энэ нь бидний тархийг үүнийг үнэн зөв гэж бодоход хүргэдэг.
Энэхүү бүтэлгүйтлийн горимыг тодорхойлох маш түгээмэл арга бол конфабуляци: итгэлтэйгээр хэлсэн боловч буруу гаралт (өөрөөр хэлбэл "хий үзэгдэл"). NIST үүнийг үүсгэгч хиймэл оюун ухааны системийн гол эрсдэл гэж шууд нэрлэдэг. [1]
Мөнгө нь чанга яригчийг нэмэгдүүлдэг
Төсөв, үнэлгээ, ажил мэргэжлийн урамшуулал эрсдэлд орох үед хүн бүр "энэ нь бүх зүйлийг өөрчилдөг" гэж хэлэх шалтгаантай байдаг (ихэвчлэн слайд тавцанг өөрчилдөг ч гэсэн).
“Инфляци → урам хугаралт → тогтвортой үнэ цэнэ”-ийн хэв маяг (мөн яагаад хиймэл оюун ухаан хуурамч гэсэн үг биш гэж) 📈😬
Олон технологи нь ижил сэтгэл хөдлөлийн нумыг дагадаг:
-
Оргил хүлээлт (Мягмар гараг гэхэд бүх зүйл автоматжуулагдана)
-
Хатуу бодит байдал (Лхагва гарагт эвдэрнэ)
-
Тогтвортой үнэ цэнэ (энэ нь ажил хэрхэн хийгдэхийн нэг хэсэг болдог)
Тийм ээ - хиймэл оюун ухаан чухал ач холбогдолтой хэвээр байгаа ч хэт их зарагдаж болно . Эдгээр нь эсрэг тэсрэг зүйл биш. Тэд бол өрөөний хамтрагчид.
Хиймэл оюун ухаан хэт магтагдаагүй (үр дүнгээ өгч байна) ✅✨
Энэ хэсэг нь шинжлэх ухааны уран зөгнөл багатай, хүснэгттэй тул анзаарагдахгүй өнгөрч байна.
Код бичих тусламж нь бүтээмжийг нэмэгдүүлэх бодит арга юм
Зарим ажлуудын хувьд - жишиг хавтан, туршилтын шат, давтагдах хэв маяг - кодын хуулбарлалтууд үнэхээр практик байж болно.
GitHub-ийн нэгэн өргөн хүрээтэй иш татсан хяналттай туршилтаар Copilot ашигладаг хөгжүүлэгчид код бичих даалгаврыг илүү хурдан гүйцэтгэсэн болохыг тогтоожээ (тэдний бичсэнээр тухайн судалгаанд хурд 55% -иар нэмэгдсэн байна). [3]
Ид шид биш ч гэсэн утга учиртай. Гол нь та бичсэн зүйлийг нь хянаж үзэх хэрэгтэй хэвээр байна... учир нь "тустай" гэдэг нь "зөв" гэдэгтэй адил биш юм
Ноорог бичих, нэгтгэн дүгнэх, анхан шатны сэтгэлгээ
Хиймэл оюун ухаан дараах зүйлсэд маш сайн:
-
Баримт бичгүүдийг цэвэрхэн ноорог болгон хувиргах нь ✍️
-
Урт баримт бичгүүдийг нэгтгэн дүгнэх
-
Сонголтуудыг үүсгэх (гарчиг, тойм, имэйл хувилбарууд)
-
Орчуулгын өнгө аяс (“Үүнийг бага халуун болго” 🌶️)
Энэ бол үндсэндээ заримдаа худлаа хэлдэг, цуцашгүй туслах ажилтан тул та хянаж байдаг. (Хатуу. Бас үнэн зөв.)
Харилцагчийн дэмжлэгийн ангилалт болон дотоод тусламжийн ширээ
Хиймэл оюун ухаан хамгийн сайн ажилладаг газрууд: ангилах → авах → санал болгох, зохион бүтээх биш → найдвар тавих → байршуулах.
Хэрэв та богино, аюулгүй хувилбарыг хүсч байвал: хиймэл оюун ухааныг ашиглан батлагдсан эх сурвалжаас мэдээлэл авч , хариултыг боловсруулаарай, гэхдээ хүмүүсийг юу илгээж байгаад хариуцлагатай байлгаарай - ялангуяа эрсдэл нэмэгдэх үед. "Удирдах + шалгах + ослыг илрүүлэх" гэсэн байр суурь нь NIST нь хиймэл оюун ухааны эрсдэлийн менежментийг хэрхэн боловсруулдагтай яг таарч байна. [1]
Өгөгдөл хайх - хашлагатай
Хиймэл оюун ухаан нь хүмүүст өгөгдлийн сангаас лавлагаа авах, диаграммыг тайлбарлах, "дараа нь юуг харах вэ" гэсэн санаануудыг бий болгоход тусалдаг. Үүний гол давуу тал нь шинжээчдийг орлох биш, харин шинжилгээг илүү хүртээмжтэй болгох явдал юм.
Хиймэл оюун ухаан хэт магтаал хүртсэн газар (яагаад сэтгэл дундуур байсаар байгаа вэ) ❌🤷
"Бүх зүйлийг удирддаг бүрэн бие даасан агентууд"
Агентууд ажлын урсгалыг цэвэрхэн хийж чадна. Гэхдээ та нэмсний дараа:
-
олон алхам
-
замбараагүй хэрэгслүүд
-
зөвшөөрөл
-
жинхэнэ хэрэглэгчид
-
бодит үр дагавар
...бүтэлгүйтлийн горимууд туулай шиг үрждэг. Эхэндээ хөөрхөн, дараа нь чи гайхширдаг 🐇
Практик дүрэм: ямар нэгэн зүйл "гар чөлөөтэй" гэж мэдэгдэх тусам эвдэрвэл юу болохыг асуух хэрэгтэй.
"Энэ нь удахгүй бүрэн үнэн зөв болно"
Нарийвчлал сайжирдаг нь мэдээж, гэхдээ найдвартай байдал нь маш муу байдаг - ялангуяа загвар нь баталгаажсан эх сурвалжид үндэслэгдээгүй үед
Тийм ч учраас хиймэл оюун ухааны ноцтой ажил нь "зүгээр л илүү чангаар өдөөх" биш харин " сэргээх + баталгаажуулах + хяналт + хүний хяналт " шиг харагддаг . (NIST-ийн GenAI профайл үүнийг эелдэг, тогтвортой байдлаар илэрхийлдэг.) [1]
"Бүгдийг нь захирах нэг загвар"
Практикт багууд ихэвчлэн холилддог:
-
хямд/их хэмжээний ажилд зориулсан жижиг загварууд
-
Илүү хүнд үндэслэл гаргахад зориулсан том загварууд
-
үндэслэлтэй хариултуудыг хайх
-
хил хязгаарыг дагаж мөрдөх дүрэм
Гэхдээ "ганц шидэт тархи" гэсэн санаа сайн зарагддаг. Энэ бол цэвэр цэмцгэр. Хүмүүс цэвэр цэмцгэр байдалд дуртай.
"Бүх ажлын байрыг нэг шөнийн дотор солих"
Ихэнх үүрэг нь багц даалгавар байдаг. Хиймэл оюун ухаан эдгээр даалгаврын нэг хэсгийг няцааж, үлдсэнийг нь бараг хөндөхгүй байж магадгүй. Хүний хэсгүүд - шүүлт, хариуцлага, харилцаа холбоо, нөхцөл байдал - зөрүүд хэвээр байна ... хүнлэг.
Бид робот хамт ажиллагсдыг хүсч байсан. Үүний оронд бид стероид дээр автоматаар гүйцээх функцтэй болсон.
Хиймэл оюун ухааныг сайн (бас муу) болгодог зүйл юу вэ 🧪🛠️
Энэ бол хүмүүс алгасаад дараа нь харамсдаг хэсэг юм.
Сайн хиймэл оюун ухааны хэрэглээний тохиолдол нь ихэвчлэн дараахь зүйлийг агуулдаг.
-
Амжилтын шалгуурыг тодорхой болгох (цаг хэмнэсэн, алдаа багассан, хариу өгөх хурд сайжирсан)
-
Бага ба дунд зэргийн эрсдэл (эсвэл хүний хүчтэй хяналт)
-
Давтагдах боломжтой хэв маяг (Түгээмэл асуултуудын хариулт, нийтлэг ажлын урсгал, стандарт баримт бичиг)
-
Сайн өгөгдөлд хандах (мөн ашиглах зөвшөөрөл)
-
Загвар утгагүй зүйл гаргах үед нөөц төлөвлөгөө
-
Эхэндээ нарийн хүрээ (жижиг ялалтын нэгдэл)
Хиймэл оюун ухааны муу хэрэглээний тохиолдол ихэвчлэн дараах байдалтай харагддаг.
-
Хариуцлагагүйгээр "Шийдвэр гаргалтыг автоматжуулъя" 😬
-
"Бид үүнийг бүх зүйлд холбоно" (үгүй ... үгүй гэнэ үү)
-
Суурь үзүүлэлт байхгүй тул тусалсан эсэхийг хэн ч мэдэхгүй
-
Үүнийг загвар машин биш харин үнэний машин гэж найдаж байна
Хэрэв та зөвхөн нэг зүйлийг санах гэж байгаа бол: Хиймэл оюун ухаан нь таны баталгаажсан эх сурвалжид тулгуурлаж , тодорхой тодорхойлсон ажилтай хязгаарлагдсан үед итгэхэд хамгийн хялбар байдаг. Үгүй бол энэ нь чичиргээнд суурилсан тооцоолол юм.
Байгууллагадаа хиймэл оюун ухааныг бодитоор шалгах энгийн (гэхдээ маш үр дүнтэй) арга 🧾✅
Хэрэв та үндэслэлтэй хариулт авахыг хүсвэл (шууд хариулт биш) энэ хурдан тестийг хийгээрэй:
1) Хиймэл оюун ухааныг хөлсөлж авах гэж буй ажлаа тодорхойл
Ажлын тодорхойлолт шиг бичнэ үү:
-
Оролтууд
-
Гаралтууд
-
Хязгаарлалтууд
-
"Дууссан гэдэг нь ..." гэсэн үг
Хэрэв та үүнийг тодорхой тайлбарлаж чадахгүй бол хиймэл оюун ухаан үүнийг ид шидийн мэт тодруулж чадахгүй.
2) Суурь түвшинг тогтоох
Одоо хэр хугацаа шаардагдах вэ? Одоо хэдэн алдаа гарсан бэ? "Сайн" гэдэг нь одоо ямар харагдаж байна вэ?
Суурь шугам байхгүй = дараа нь төгсгөлгүй санал бодлын дайн болно. Үнэхээр хүмүүс үүрд маргалдах болно, тэгвэл та хурдан хөгшрөх болно.
3) Үнэн хаанаас ирснийг шийд
-
Дотоод мэдлэгийн сан?
-
Үйлчлүүлэгчийн бүртгэл?
-
Батлагдсан бодлого уу?
-
Сонгосон баримт бичгийн багц уу?
Хэрэв хариулт нь "загвар өмсөгч мэдэх болно" бол энэ бол ноцтой асуудал 🚩
4) Хүний давталттай төлөвлөгөөг гарга
Шийдвэрлэх:
-
хэн шүүмж бичих вэ,
-
тэд хянаж үзэх үед,
-
мөн хиймэл оюун ухаан буруу үед юу болдог вэ.
Энэ бол “хэрэгсэл” ба “хариуцлага” гэсэн ойлголтуудын хоорондох ялгаа юм. Үргэлж биш ч гэсэн олон удаа.
5) Тэсрэлтийн радиусыг газрын зурагт үзүүл
Алдаа хямдхан газраас эхэл. Зөвхөн нотлох баримттай болсны дараа л өргөжүүл.
Ингэж л та хэтрүүлсэн мэдэгдлүүдийг ашигтай болгож чадна. Энгийн... үр дүнтэй... үнэхээр үзэсгэлэнтэй 😌
Итгэлцэл, эрсдэл, зохицуулалт - хамгийн чухал секси бус хэсэг 🧯⚖️
Хэрэв хиймэл оюун ухаан ямар нэгэн чухал зүйлд (хүмүүс, мөнгө, аюулгүй байдал, хууль эрх зүйн үр дагавар) орж байгаа бол засаглал нь заавал байх албагүй.
Өргөн хэрэглэгддэг хэд хэдэн хашлага:
-
NIST-ийн үүсгэгч хиймэл оюун ухааны профайл (хиймэл оюун ухааны RMF-ийн хамтрагч): практик эрсдэлийн ангилал + засаглал, туршилт, гарал үүсэл, ослын талаарх санал болгож буй арга хэмжээ. [1]
-
OECD-ийн хиймэл оюун ухааны зарчмууд: найдвартай, хүн төвтэй хиймэл оюун ухааны олон улсын хэмжээнд өргөн хэрэглэгддэг суурь үзүүлэлт. [5]
-
Европын Холбооны хиймэл оюун ухааны тухай хууль: хиймэл оюун ухааныг хэрхэн ашиглаж байгаагаас хамааран үүрэг хариуцлагыг тогтоосон (мөн зарим "хүлээн зөвшөөрөгдөхгүй эрсдэл"-ийн практикийг хориглосон) эрсдэлд суурилсан хууль эрх зүйн хүрээ. [4]
Тийм ээ, энэ зүйлс бичиг цаасны ажил мэт санагдаж болно. Гэхдээ энэ нь "практик хэрэгсэл" болон "өө, бид нийцлийн хар дарсан зүүд ашигласан" хоёрын ялгаа юм
Илүү нарийвчлан авч үзвэл: “Хиймэл оюун ухааныг автоматаар гүйцээх” санаа - дутуу үнэлэгдсэн ч үнэн юм шиг 🧩🧠
Бага зэрэг төгс бус (энэ нь тохирсон) зүйрлэл энд байна: ихэнх хиймэл оюун ухаан нь интернетийг уншдаг, дараа нь хаана уншсанаа мартдаг маш чамин автомат гүйцээгчтэй адил юм.
Энэ нь үл тоомсорлож байгаа мэт сонсогдож байгаа ч энэ нь яагаад үр дүнтэй байгаагийн шалтгаан юм:
-
Хээнд гайхалтай
-
Хэлний тал дээр маш сайн
-
"Дараагийн магадлалтай зүйлийг" бүтээхдээ маш сайн
Тэгээд яагаад бүтэлгүйтдэг вэ гэвэл:
-
Энэ нь юу үнэн болохыг байгалиасаа “мэддэггүй”
-
Энэ нь танай байгууллага юу хийдгийг байгалийн жамаараа мэддэггүй
-
Энэ нь газардуулалгүйгээр өөртөө итгэлтэй утгагүй зүйлийг гаргаж чаддаг (харна уу: төөрөгдөл / хий үзэгдэл) [1]
Тиймээс хэрэв таны хэрэглээний тохиолдол үнэнийг шаардаж байвал та үүнийг сэргээх, хэрэгсэл, баталгаажуулалт, хяналт, хүний хяналтаар бэхэлнэ. Хэрэв таны хэрэглээний тохиолдол ноорог болон санаа боловсруулахад хурд шаардаж байвал та үүнийг арай чөлөөтэй ажиллуулахыг зөвшөөрнө. Өөр өөр тохиргоо, өөр өөр хүлээлт. Давстай хоол хийхтэй адил - бүх зүйл ижил хэмжээгээр шаардагддаггүй.
Харьцуулсан хүснэгт: хэт өндөр мэдэгдэлд живэхгүйгээр хиймэл оюун ухааныг ашиглах практик аргууд 🧠📋
| Хэрэгсэл / сонголт | Үзэгчид | Үнийн уур амьсгал | Яагаад ажилладаг вэ |
|---|---|---|---|
| Чат маягийн туслах (ерөнхий) | Хувь хүмүүс, багууд | Ихэвчлэн үнэгүй түвшин + төлбөртэй | Ноорог бичих, санал бодлоо солилцох, нэгтгэн дүгнэхэд маш сайн... гэхдээ баримтуудыг баталгаажуулах (үргэлж) |
| Кодын хамтрагч | Хөгжүүлэгчид | Ихэвчлэн захиалга | Нийтлэг код бичих ажлуудыг хурдасгадаг ч хянаж үзэх + тест хийх, кофе уух шаардлагатай хэвээр байна |
| Эх сурвалжтай хариулт авахад суурилсан | Судлаачид, шинжээчид | Фримиум маягийн | Цэвэр таахаас илүү "олох + газардах" ажлын урсгалд илүү тохиромжтой |
| Ажлын урсгалын автоматжуулалт + хиймэл оюун ухаан | Үйл ажиллагаа, дэмжлэг | Шаталсан | Давтагдах алхмуудыг хагас автомат урсгал болгон хувиргадаг (хагас гол түлхүүр) |
| Дотоод загвар / өөрөө байршуулах | Машинаар суралцах чадвартай байгууллагууд | Инфра + хүмүүс | Илүү их хяналт + нууцлал, гэхдээ та засвар үйлчилгээ болон толгойны өвчинд мөнгө төлдөг |
| Засаглалын хүрээ | Удирдагчид, эрсдэл, нийцэл | Үнэгүй нөөцүүд | Эрсдэл + итгэлцлийг удирдахад тусална, тансаг биш ч зайлшгүй шаардлагатай |
| Бенчмаркинг / бодит байдлын эх сурвалжууд | Гүйцэтгэх захирлууд, бодлого, стратеги | Үнэгүй нөөцүүд | Өгөгдөл нь сэтгэл хөдлөлийг даван туулж, LinkedIn-ийн номлолыг бууруулдаг |
| "Бүх зүйлийг хийдэг агент" | Мөрөөдөгчид 😅 | Зардал + эмх замбараагүй байдал | Заримдаа гайхалтай, ихэвчлэн эмзэг байдаг - зууш, тэвчээртэй байгаарай |
Хэрэв та хиймэл оюун ухааны дэвшил болон нөлөөллийн өгөгдлийг шалгах "бодит байдлыг шалгах" нэг төвийг хүсч байвал Стэнфордын хиймэл оюун ухааны индекс бол эхлэхэд тохиромжтой газар юм. [2]
Хаалтын хэсэг + товч тойм 🧠✨
Тиймээс хэн нэгэн дараах зүйлсийг зарж байх үед хиймэл оюун ухаан хэт магтагддаг :
-
төгс нарийвчлал,
-
бүрэн бие даасан байдал,
-
бүхэл бүтэн үүргийг шууд солих,
-
эсвэл танай байгууллагыг шийддэг залгаад тоглодог тархи..
...тэгвэл тийм ээ, энэ бол гялгар өнгөлгөөтэй борлуулалтын ур чадвар юм.
Гэхдээ хэрэв та хиймэл оюун ухаанд дараах байдлаар хандвал:
-
хүчирхэг туслах,
-
нарийн, сайн тодорхойлсон ажлуудад хамгийн сайн ашиглагддаг,
-
итгэмжлэгдсэн эх сурвалжид үндэслэсэн,
-
хүмүүс чухал зүйлсийг хянаж байгаатай хамт..
...тэгвэл үгүй ээ, энэ хэт магтаал биш. Зүгээр л... жигд бус. Яг л фитнессийн гишүүнчлэл шиг. Зөв ашиглавал гайхалтай, зөвхөн үдэшлэг дээр яривал хэрэггүй 😄🏋️
Товчхондоо: Хиймэл оюун ухааныг шүүлтийн ид шидийн орлуулагч гэж хэт магтаж, ноорог бичих, код бичих тусламж, ангилах, мэдлэгийн ажлын урсгалын практик үржүүлэгч гэж дутуу үнэлдэг.
Бодит жишээ: Дэмжлэгийн ангиллын хиймэл оюун ухааны туслах бүтээх 🛠️
Хувилбар
Таван хүний бүрэлдэхүүнтэй дэмжлэг үзүүлэх багтай жижиг програм хангамжийн компанийг төсөөлөөд үз дээ. Тэд долоо хоногт 180 орчим дэмжлэг үзүүлэх имэйл хүлээн авдаг: нууц үг шинэчлэхтэй холбоотой төөрөгдөл, төлбөрийн асуултууд, алдааны тайлан, функцын хүсэлт, "систем ажиллахгүй байна уу?" гэсэн сандралын мессежүүд.
Тус компани хүсдэггүй . Энэ нь хэтэрхий эрсдэлтэй байх болно. Үүний оронд тэд хиймэл оюун ухааныг хяналттай ангиллын туслах болгон ашигладаг: энэ нь ирж буй мессежийг уншиж, тасалбарын төрлийг шошголож, зөв тусламжийн төвийн нийтлэлийг санал болгож, боломжит хариултыг ноороглож, хүн хэрэгтэй бүх зүйлийг тэмдэглэдэг.
Энэ нь хиймэл оюун ухааны практик хувилбарт тохирно: нарийн ажил, батлагдсан эх сурвалж, хүний хяналт, хэмжигдэхүйц гаралт.
Туслахад юу хэрэгтэй вэ
Туслах нь зөвхөн дараах зэрэг батлагдсан материалаас ажиллах ёстой:
Хэрэглэгчийн дэмжлэгийн макронууд
Буцаан олголт болон төлбөр тооцооны бодлого
Мэдэгдэж буй алдааны жагсаалт
Тусламжийн төвийн нийтлэлүүд
Эскалация дүрмүүд
Дуу хоолойн өнгө аясын гарын авлага
Хууль эрх зүйн аюул занал, төлбөрийн маргаан, дансны аюулгүй байдал, зүй бус үйлдлийн тайлан эсвэл ууртай бизнесийн үйлчлүүлэгчид гэх мэт "хэзээ ч автоматаар хариулахгүй" сэдвүүдийн жагсаалт
Гол санаа: туслахаас хариултыг нь "мэдэхийг" хүсээгүй. Найдвартай эх сурвалжаас олж, ангилж, ноороглохыг хүссэн
Жишээ заавар
Та жижиг SaaS компанийн дэмжлэгийн ангиллын туслах юм.
Таны ажил бол ирж буй тасалбар бүрийг ангилах, хамгийн хамааралтай батлагдсан тусламжийн нийтлэлийг санал болгох, бидний дэмжлэгийн өнгө аястай богино хариулт бичих, илгээхээсээ өмнө хүн шалгах шаардлагатай эсэхийг тэмдэглэх явдал юм.
Зөвхөн өгөгдсөн дэмжлэгийн бодлого болон тусламжийн төвийн агуулгыг ашиглана уу. Хэрэв хариулт нь эдгээр эх сурвалжаас тодорхой дэмжигдэхгүй бол "Хүний хяналт шаардлагатай - эх сурвалж олдсонгүй" гэж хэлнэ үү
Буцаан олголт, үйлчилгээний кредит, хууль эрх зүйн үр дүн, аюулгүй байдлын засвар, бүтээгдэхүүний замын зураглалын огноог хэзээ ч амлаж болохгүй.
Тасалбар бүрийн хувьд буцах:
Тасалбарын ангилал
Яаралтай байдлын түвшин
Санал болгож буй эх сурвалж
Ноорог хариулт
Хүний хяналт шаардлагатай: тийм/үгүй
Хяналтын шийдвэрийн шалтгаан
Үүнийг хэрхэн шалгах вэ
Үүнийг шууд тасалбар дээр ашиглахаасаа өмнө 30 хуучин дэмжлэгийн мессежээр туршиж үзээрэй:
10 энгийн Түгээмэл асуултын тасалбар
Төлбөр тооцооны 5 асуулт
5 алдааны тайлан
5 уур хилэн эсвэл сэтгэл хөдлөлийн гомдол
Аюулгүй байдалтай холбоотой 3 асуулт
Хам сэдэв дутуу 2 тодорхой бус мессеж байна
Дараа нь хиймэл оюун ухааны гаралтыг туршлагатай дэмжлэг үзүүлэх удирдагч ижил тасалбаруудыг хэрхэн ангилахтай харьцуул.
Гол шалгалтууд:
Энэ нь зөв ангиллыг сонгосон уу?
Зөв бодлого эсвэл нийтлэлийг дурдсан уу?
Энэ ямар нэгэн зүйл зохион бүтээсэн үү?
Энэ нь эмзэг тасалбаруудыг зөв нэмэгдүүлсэн үү?
Ноорог нь хурдан засварлахад хангалттай тодорхой байсан уу?
Үйлчлүүлэгч аюулгүй, үнэн зөв хариулт авах уу?
Үр дүн
Жишээ үр дүн: ангиллын ажлын урсгалыг нэвтрүүлэхээс өмнө болон дараа 30 дээжийн тасалбарын цагийг тооцоолоход үндэслэсэн.
Хиймэл оюун ухааны ангиллыг хийхээс өмнө дэмжлэг үзүүлэх удирдагч нь тасалбар бүрт дунджаар 6 минут 40 секунд уншиж, ангилж, зөв макрог олж, анхны хариултыг боловсруулдаг байв.
Хиймэл оюун ухааны туслахын тусламжтайгаар эхний дамжуулалтын ангиллыг хүний хяналтыг оруулаад тасалбар бүрт 2 минут 15 секунд зарцуулсан
Энэ нь нэг тасалбар тутамд 4 минут 25 секунд хэмнэнэ гэсэн тооцоо юм . Долоо хоног тутмын 180 тасалбарт энэ нь долоо хоногт ойролцоогоор 13 цаг 15 минут хэмнэсэнтэй тэнцэнэ .
Дээжийн туршилтаас нарийвчлалын шалгалт:
30 тасалбарын 26-д нь дэмжлэг үзүүлэгчийн шошготой таарсан ангилал
Аюулгүй байдалтай холбоотой 3 тасалбарыг бүгдийг нь зөв өндөрлөсөн
2 ноорогт дэмжигдээгүй дэлгэрэнгүй мэдээллийг зохиосон бөгөөд хоёулаа хянаж байх явцад илэрсэн.
30 тохиолдлын 4-т нь эхнээс нь дахин бичих шаардлагатай байсан
Энэ бол "хиймэл оюун ухаан дэмжлэгийг орлож байгаа хэрэг биш" гэсэн үг. Энэ нь хүмүүс шүүлт, өнгө аяс, үл хамаарах зүйлс, хариуцлагатай байдлыг зохицуулсаар байх хооронд давтагдах эрэмбэлэлт болон анхны ноорог ажлыг багасгаж буй хиймэл оюун ухаан юм.
Юу буруу болж болох вэ
Хамгийн том эрсдэл бол туслахыг хэтэрхий эрт хянуулахгүйгээр хариулт илгээх явдал юм.
Нийтлэг алдаануудад дараахь зүйлс орно
Хуучирсан тусламжийн нийтлэлүүдийг өгч байна
Буцаан олголтын дүрмийг оруулахаа мартсан
Аюулгүй байдал эсвэл хууль эрх зүйн асуултуудад хариулах боломжийг олгох
Хурдыг хэмжих боловч алдааны түвшинг биш
Итгэлтэй ноорогыг зөв ноорог гэж үзэх
Хиймэл оюун ухааны аль саналыг хүлээн авсан, засварласан эсвэл татгалзсаныг бүртгэхгүй байна
Сайн хамгаалалт бол энгийн хяналтын дүрэм юм: хэрэв туслах нь батлагдсан эх сурвалжийг зааж чадахгүй бол хариулт нь гарахгүй.
Практик хоол
Ажил нь тогтмол, хязгаарлагдмал, хэмжигдэхүйц байх үед хиймэл оюун ухааны хэт борлуулалт хамаагүй бага болдог. Дэмжлэгийн ангиллын туслах нь "харилцагчийн үйлчилгээг ажиллуулахгүй" ч долоо хоног бүр цаг хэмнэж, дарааллын дарамтыг бууруулж, хүмүүст шүүлт хамгийн чухал байдаг тасалбарт анхаарлаа төвлөрүүлэхэд тусалдаг.
Түгээмэл асуултууд
Одоо хиймэл оюун ухаан хэт магтаал хүртэж байна уу?
Хиймэл оюун ухааныг төгс, гар ашиглахгүй эсвэл бүхэл бүтэн ажлыг нэг шөнийн дотор орлоход бэлэн гэж зарах үед хэт магтагддаг. Бодит байршуулалтад найдвартай байдлын зөрүү хурдан гарч ирдэг: өөртөө итгэлтэй буруу хариултууд, давуу талууд болон нарийн төвөгтэй интеграцууд. Хиймэл оюун ухааныг ноороглох, код бичих дэмжлэг, ангилах, судлах зэрэг нарийн ажлуудын хяналттай хэрэгсэл гэж үзвэл хэт магтагддаггүй. Ялгаа нь хүлээлт, үндэслэл, хяналтаас хамаарна.
Хиймэл оюун ухааны маркетингийн хамгийн том эрсдэлт хүчин зүйлс юу вэ?
"Бүрэн бие даасан" болон "удахгүй төгс нарийвчлалтай" гэсэн хоёр дохио нь хамгийн чанга анхааруулах дохио юм. Демо хувилбаруудыг ихэвчлэн тохируулсан заавар, цэвэр өгөгдөлтэй хамт боловсруулдаг тул нийтлэг алдааны горимуудыг нуудаг. Чөлөөтэй байдлыг үнэн гэж андуурч болох бөгөөд энэ нь өөртөө итгэлтэй алдааг итгэмээр санагдуулдаг. Хэрэв систем эвдэрсэн үед юу болсныг мэдэгдэхгүй бол эрсдэлийг үгүйсгэж байна гэж бодоорой.
Хиймэл оюун ухааны системүүд буруу байсан ч яагаад өөртөө итгэлтэй сонсогддог вэ?
Үүсгэн байгуулагч загварууд нь үнэмшилтэй, чөлөөтэй текст гаргахад маш сайн байдаг тул үндэслэлгүй үед ч гэсэн дэлгэрэнгүй мэдээллийг итгэлтэйгээр зохиож чаддаг. Үүнийг ихэвчлэн төөрөгдөл эсвэл хий үзэгдэл гэж тодорхойлдог: тодорхой сонсогдож байгаа ч найдвартай үнэн биш гаралт. Тийм ч учраас өндөр итгэлцэлтэй хэрэглээний тохиолдлууд нь ихэвчлэн сэргээн засварлах, баталгаажуулах, хянах, хүний хяналтыг нэмдэг. Зорилго нь чичиргээнд суурилсан баталгаа биш харин хамгаалалттай практик үнэ цэнэ юм.
Галлюцинацияд өртөхгүйгээр хиймэл оюун ухааныг хэрхэн ашиглах вэ?
Хиймэл оюун ухааныг үнэний машин биш, харин ноорог хөдөлгүүр гэж үз. "Загвар нь мэдэх болно" гэж таамаглахын оронд баталгаажсан эх сурвалжууд - батлагдсан бодлого, дотоод баримт бичиг эсвэл сонгосон лавлагаа гэх мэт - хариултуудыг үндэслээрэй. Баталгаажуулалтын алхмуудыг (холбоос, ишлэл, хөндлөн шалгалт) нэмж, алдаа чухал үед хүний хяналтыг шаардана. Багаас эхэлж, үр дүнг хэмжиж, тогтвортой гүйцэтгэлийг харсны дараа л өргөжүүл.
Хиймэл оюун ухааныг хэт магтаагүй бодит ертөнцийн хэрэглээний сайн тохиолдлууд юу вэ?
Хиймэл оюун ухаан нь тодорхой амжилтын хэмжүүр, бага ба дунд түвшний эрсдэлтэй нарийн, давтагдах боломжтой ажлуудыг хамгийн сайн гүйцэтгэх хандлагатай байдаг. Нийтлэг ялалтуудад ноорог хийх, дахин бичих, урт баримт бичгийг нэгтгэн дүгнэх, сонголтууд (товчлол, гарчиг, имэйл хувилбарууд) үүсгэх, код бичих, дэмжлэгийн ангилалт, дотоод тусламжийн ширээний саналууд орно. Хамгийн гол нь "зохион бүтээх → найдвар → байршуулах" биш харин "ангилах → авах → санал болгох" явдал юм. Хүн төрөлхтөн юу тээвэрлэж байгааг эзэмшсээр байна.
"Бүх зүйлийг хийдэг хиймэл оюун ухааны агентууд"-ыг хэт магтаж байна уу?
Ихэнхдээ тийм ээ - ялангуяа "гар чөлөөтэй" байх нь борлуулалтын цэг байх үед. Олон үе шаттай ажлын урсгал, нарийн төвөгтэй хэрэгслүүд, зөвшөөрөл, бодит хэрэглэгчид болон бодит үр дагавар нь алдааны горимыг улам хүндрүүлдэг. Агентууд хязгаарлагдмал ажлын урсгалд үнэ цэнэтэй байж болох ч цар хүрээ тэлэх тусам эмзэг байдал хурдан нэмэгддэг. Практик туршилт нь энгийн хэвээр байна: нөөц нөөцийг тодорхойлох, хариуцлага оноох, хохирол тархахаас өмнө алдааг хэрхэн илрүүлэхийг тодорхойлох.
Хиймэл оюун ухаан баг эсвэл байгууллагадаа үнэ цэнэтэй эсэхийг би хэрхэн шийдэх вэ?
Ажлын байрны тодорхойлолт шиг ажлыг тодорхойлж эхэл: оролт, гаралт, хязгаарлалт, "хийгдсэн" гэдэг нь юу гэсэн үг вэ. Сэтгэл хөдлөлийн талаар маргахын оронд сайжруулалтыг хэмжих боломжтой байхын тулд суурь шугам (цаг хугацаа, зардал, алдааны түвшин)-ийг тогтоо. Үнэн хаанаас ирснийг шийд - дотоод мэдлэгийн сан, батлагдсан баримт бичиг эсвэл хэрэглэгчийн бүртгэл. Дараа нь "хүний давталт" төлөвлөгөөг боловсруулж, өргөжүүлэхээсээ өмнө тэсрэлтийн радиусыг зурагла.
Хиймэл оюун ухааны гаралт буруу байвал хэн хариуцлага хүлээх вэ?
Хүний эзэмшигчийг гаралт, хяналт шалгалт, систем эвдэрсэн үед юу болох талаар томилох хэрэгтэй. "Загварт ингэж хэлсэн" гэдэг нь хариуцлага биш, ялангуяа мөнгө, аюулгүй байдал, эрхийн асуудалтай холбоотой үед. Хариултыг хэн батлах, хэзээ хяналт шалгалт шаардлагатай, ослыг хэрхэн бүртгэж, шийдвэрлэхийг тодорхойл. Энэ нь хиймэл оюун ухааныг хариуцлагаас тодорхой хариуцлагатай хяналттай хэрэгсэл болгон хувиргадаг.
Надад хэзээ засаглал хэрэгтэй вэ, ямар хүрээг түгээмэл ашигладаг вэ?
Хууль эрх зүйн үр дүн, аюулгүй байдал, санхүүгийн нөлөөлөл эсвэл хүмүүсийн эрхтэй холбоотой аливаа зүйл эрсдэл нэмэгдэх үед засаглал хамгийн чухал байдаг. Нийтлэг хамгаалалтад NIST-ийн үүсгэгч хиймэл оюун ухааны профайл (хиймэл оюун ухааны эрсдэлийн удирдлагын хүрээний хамтрагч), OECD-ийн хиймэл оюун ухааны зарчим, Европын Холбооны хиймэл оюун ухааны тухай хуулийн эрсдэлд суурилсан үүрэг хариуцлага орно. Эдгээр нь туршилт, гарал үүсэл, хяналт, ослын талаарх мэдээллийг задруулах практикийг дэмждэг. Энэ нь тааламжгүй мэт санагдаж болох ч "өө, бид нийцлийн хар дарсан зүүд тавьсан"-аас сэргийлдэг
Хэрэв хиймэл оюун ухааныг хэт магтаж байгаа бол яагаад энэ нь одоо хүртэл үр дагавартай мэт санагдаж байна вэ?
Хөөрөл ба нөлөө зэрэгцэн оршиж болно. Олон технологи нь танил болсон зарчмыг дагадаг: оргил хүлээлт, хатуу бодит байдал, дараа нь тогтвортой үнэ цэнэ. Хиймэл оюун ухаан хүчирхэг боловч ихэвчлэн аль хэдийн дууссан мэт зарагддаг - энэ нь одоо ч явагдаж байгаа бөгөөд интеграци удаан байх үед. Хиймэл оюун ухаан нь ажлын уйтгартай хэсгүүдийг арилгаж, ноорог болон код бичих ажлыг дэмжиж, ажлын урсгалыг үндэслэл, хяналтаар сайжруулснаар удаан үргэлжлэх үнэ цэнэ илэрдэг.
Лавлагаа
-
NIST-ийн Үүсгэн байгуулагч хиймэл оюун ухааны профайл (NIST AI 600-1, PDF) - хиймэл оюун ухааны эрсдэлийн удирдлагын хүрээний хавсаргасан удирдамж, гол эрсдэлийн чиглэлүүд болон засаглал, туршилт, гарал үүсэл, ослын талаарх зөвлөмжийг тоймлон харуулсан болно. дэлгэрэнгүй унших
-
Стэнфордын HAI хиймэл оюун ухааны индекс - хиймэл оюун ухааны дэвшил, хэрэглээ, хөрөнгө оруулалт болон нийгмийн нөлөөллийг гол жишиг болон үзүүлэлтүүдээр хянадаг жилийн, өгөгдөл ихтэй тайлан. дэлгэрэнгүй унших
-
GitHub Copilot бүтээмжийн судалгаа - GitHub-ийн Copilot ашиглах үед даалгаврын гүйцэтгэлийн хурд болон хөгжүүлэгчийн туршлагын талаарх хяналттай судалгааны бичвэр. дэлгэрэнгүй унших
-
Европын Комиссын хиймэл оюун ухааны тухай хуулийн тойм - Европын Холбооны хиймэл оюун ухааны системийн эрсдэлийн түвшинтэй үүрэг хариуцлага болон хориотой үйл ажиллагааны ангиллыг тайлбарласан Комиссын төв хуудас. дэлгэрэнгүй унших