Хиймэл оюун ухаан найдвартай юу? [Видео болон асуулт хариулт]

Товч хариулт: Хиймэл оюун ухаан нь шинж чанарын хувьд найдвартай биш: энэ нь даалгавар, сэргээх давталт, хүнээс хамаарна. Ажиллах хугацаа гэдэг нь эцсийн цэг хариулагдсан эсэх; үнэнч байдал гэдэг нь хариулт тийм байсан эсэх юм. Алдаа хямд эсвэл барьж болох үед үүнийг ашиглаарай; алдаа үнэтэй үед удаашруулна уу.

Гол дүгнэлтүүд:

Хариуцлага: Хэн хянаж байгаа, хэн зогсоож чадах, хэн хариуцлага хүлээгээд байгааг нэрлэнэ үү.

Ил тод байдал: Олж авсан хэсгийг шалгана уу, эс тэгвээс та манан дунд байсаар байх болно.

Аудит хийх чадвар: Алдагдсан зүйлсийг мөрдөхийн тулд хүлээх мөрүүд, авсан хэсгүүд болон илгээсэн зүйлсийг бүртгэнэ.

Буруу хэрэглээний эсэргүүцэл: Мөнгөний асуудал дээр бүтэлгүйтэл хаагдсан; тоо, цонх, бодлого хэзээ ч бүү зохио.

Жишээ үр дүн: 20 асуулттай жишээ тестийг 95% баталгаа биш харин газрын зураг гэж үз.

Үүний дараа таны унших дуртай нийтлэлүүд:

🔗 Өдөр тутмын амьдралдаа хиймэл оюун ухааныг хэрхэн ашиглах вэ
Хиймэл оюун ухаан өдөр тутмын ажил, хэвшмэл үйл ажиллагааг хялбаршуулах практик аргуудыг олж нээ.

🔗 Ажил дээрээ хиймэл оюун ухааныг хэрхэн ашиглах вэ?
Хиймэл оюун ухааны тусламжтайгаар бүтээмж, үр ашгийг дээшлүүлэх практик аргуудыг сур.

🔗 Хиймэл оюун ухаан өөрөө сэтгэж чадах уу?
Хиймэл оюун ухаан үнэхээр бие даан сэтгэж, үндэслэл гаргаж чадах эсэхийг судлаарай.

🔗 Хиймэл оюун ухааны төрлүүд юу вэ?
Хиймэл оюун ухааны үндсэн төрлүүд, чадварууд болон гол ялгааг ойлгоорой.

Машин нь статистикийн тоть байхад "найдвартай" гэдэг нь юу гэсэн үг вэ

Өдөр тутмын яриандаа найдвартай байдал гэдэг нь та ямар нэгэн зүйлд найдаж болно гэсэн үг юм.

Автоматжуулалтаар ярьдаг тул нэг үгийн дор өөр өөр шинж чанаруудын овоолго нуугдаж байдаг. Бодит байдал. Тогтвортой байдал. Тохируулга - загварын итгэл үнэмшил нь зөв байх магадлалтай тохирч байгаа эсэх, эсвэл зүгээр л ... итгэлтэй сонсогдож байгаа эсэх. Аюулгүй байдал. Ажиллах хугацаа. Шуурхай мэдрэмж. Ирмэг тохиолдлууд дээрх зан байдал. Амьд ертөнц нь сургалтын ертөнц биш үед. Эдгээрийн аль нь ч хамтдаа бүтэлгүйтдэггүй. Энэ бол хүмүүсийн алгасдаг хэсэг юм.

Чатбот бүтэн долоо хоногийн турш "идэвхтэй" байсан ч Мягмар гарагийн үдээс хойш алдаа гаргаж болно. Код бичих хоёрдугаар зэрэглэлийн хүн энгийн түвшинд сайн ажиллаж байгаад жинхэнэ API-тай яг адилхан харагдах API-г хий үзэгдэл болгож болно. Хүмүүсийн хүсдэг зүйрлэл бол "залуу хамт ажиллагч" юм. Энэ бол төгс бус зүйрлэл - залуучууд ичдэг - гэхдээ энэ нь "оракул"-аас илүү ойр байдаг.

Шууд туршилт нь юунд, хэнд, аль гогцоонд найдвартай байдаг. Үгүй бол та блендерийг татвар төлж чадах эсэхээр нь үнэлж байна.

Ажиллах хугацаа бол үнэнч байдал биш - хоёр өөр төрлийн "найдвартай" байдал

Опс болон үнэнч хүмүүс нэг үг хэрэглэж, бие биенийхээ хажуугаар ярьдаг.

Ажиллах хугацаа гэдэг нь "эцсийн цэгийн хариултыг өгсөн" гэсэн үг. Үнэнч байх гэдэг нь "хариулт нь тийм байсан" гэсэн үг. Засаглал нь хоёуланг нь анхаарч үздэг бөгөөд загварын эрсдэл нь муухай зайд оршдог. Та хэзээ ч нүдээ аниад, чөлөөтэй худал хуурмагийг хэрэглэгчийн тасалбар болгон оруулдаг үйлчилгээтэй байж болно. SRE утгаараа найдвартай. "Буцаан олголтын бодлого бүү зохио" гэсэн утгаараа найдвартай биш.

Үүнийг бичиж тэмдэглэсэн нь илэрхий байх гэж би бодож байна. Хариулт хурдан, дараалал аймшигтай байхад 16:00 цагт энэ нь илэрхий биш юм. Хурд гэдэг нь чадвар шиг санагддаг. Удаан гэдэг нь өмнө нь хэн нэгэн бодож байсан гэсэн үг байсан бол одоо хурд гэдэг нь хэн ч бодож байгаагүй гэсэн дохио юм.

Аюулгүй байдал бол бас нэгэн чухал зүйл юм. Муу jailbreak-аас татгалздаг загвар нь аюулгүй байдлын үнэлгээний хувьд "найдвартай" бөгөөд таны тэмдэглэлийн хураангуйг эвдэж магадгүй юм.

Чөлөөтэй бөгөөд буруу ярих нь болхи, шулуун шударга байдлаас дор юм

Энэ бол өөртөө итгэх итгэлийн асуудал бөгөөд хамгийн гол нь энэ юм.

Нарийвчлал болон чөлөөтэй ярих чадвар салж, чөлөөтэй ярих чадвар нь байр сууриа хадгалж үлджээ. LLM нь танд хэмнэл, зөв ​​​​газрыг хамгаалах, магадгүй хуурамч боловч хөөрхөн ишлэлийн хэлбэрийг өгөх болно. Таны тархи "энэ хүн мэдэж байна" гэж уншдаг. Гэхдээ энэ нь хүн биш бөгөөд тохируулга нь ихэвчлэн аймшигтай байдаг - өндөр итгэл үнэмшил, дунд зэргийн үнэн, гол үг шиг хэлсэн.

Болхи буруу хариулт таныг сэжиглэхэд хүргэдэг. Уян хатан буруу хариулт таныг шалгахаа больдог. Энэ бол бага ялгаа биш; энэ бол нэг бага зэрэг муухай өгүүлбэрт багтсан бүхэл бүтэн түүх юм.

Тэнд бас нэг талыг барьсан байдал байдаг бөгөөд энэ нь үргэлж доромжлол биш, харин өрөөнд хэн байгаа, англи хэлний аль амт нь төвийг сахисан гэж тооцогддог талаарх анхдагч ойлголт юм. Хэл бол бидний хамгийн эртний итгэлцлийн интерфэйс учраас хүмүүс хууртагддаг. Хэрэв энэ нь товч мэдээлэл шиг яригдвал бид үүнийг товч мэдээлэл шиг харьцдаг. Би үүнд илүү циник хандахыг хүссэн хэвээр байна. Дараа нь би утгагүй товч мэдээллийг уншаад мөрөө унагав. Уулзалт руу ороход товч мэдээлэл дууссан харагдаж байна. Энэ өгүүлбэр хэтэрхий их ажил хийж байна, гэхдээ л: хатагтай ингэж л асуултын хариултыг авдаг.

Брэндээр биш, нөхцөл байдлаас шалтгаалан найдвартай байдал

Брэндүүд бол анхаарал сарниулах зүйл юм. Харьцуулалт бол ажил юм. Хэрүүл маргаанууд хоорондоо маргалдах болно. Зүгээр дээ.

Ямартай ч, хэрэв таны дуртай хэрэгсэл ноорог хийхдээ чадварлаг бөгөөд шөнө дунд хууль эрх зүйн хувьд тав тухтай байдлыг гуйж байгаа бол энэ нь сайжруулалт биш юм. Энэ бол та үүнийг орхигдуулсан гэсэн үг юм.

Хий үзэгдэл, төөрөгдөл, чимээгүй буруу ойлголт

Хий үзэгдэл нь халуун ногоотой учраас л гарчиг болдог: байхгүй ном, хэзээ ч илгээгдээгүй үйл ажиллагаа, албан ёсны мэт санагдах тоотой бодлогын заалт.

Дрифт бол кино шиг биш. Дэлхий хөдөлдөг. Загварын үлдэгдэл үлддэг. Та шинэлэг нөхцөл байдал шаардлагатай асуулт асууж, өмнөх цаг агаараас сайн зохион байгуулалттай хариулт авдаг. Би тэнд бараг л "өөр эрин үеэс" гэж бичих шахсан нь энэ сэдэв хэтрүүлэгтэй үг юм. Энэ бол өөр эрин үе биш. Зүгээр л одоо биш.

Чимээгүй буруу гэдэг нь надад илүү хамаатай зүйл. Үл хамаарах зүйлийг хассан товч агуулга. "Магадгүй" гэдэг үгийг заавал байх ёстой гэж сайжруулсан үг. Бодит байдал нь утга нь буурсан ч "техникийн хувьд сайн" байж болно.

Шуурхай мэдрэмж нь үүнийг улам дордуулдаг. Боолтыг өөрчилж, "баримтууд" гялалздаг. Эргэлзэж буй хүний ​​​​хувьд асуу, хаалт аваарай. Яарч буй даргын хувьд асуу, хурдан хэтрүүлэн мэдэгдэх хэрэгтэй. Хэрэв таны үнэлгээ зөвхөн нэг хувцас ашигласан бол таны үнэлгээ жаахан худал байна. Уучлаарай.

Jailbreak-ууд ирмэг дээр байна, би дээрэм тонуулын кино хүсэхгүй байна. Хэрэв системийг ёс зүйгээ болиулах гэж оролдож болох юм бол найдвартай байдал нь зөвхөн үнэн биш; энэ нь хашлага нь гогцоо эсвэл зурагт хуудас эсэхээс хамаарна.

Сургалтын үлдэгдэл, хуучирсан мэдлэг, мөн яагаад газардуулга нь шидэт саваа биш вэ

Үүсгэн байгуулагч загваруудыг овоолго дээр сургаж, дараа нь таны Мягмар гараг руу чиглүүлдэг. Эргүүлэн авах гэдэг нь насанд хүрэгчдийн одоо цагийг тэр овоолго дээр бэхлэх оролдлого юм. Газардуулга гэдэг нь "манангаас биш, үүнээс хариулт авах" гэсэн утгатай. Энэ нь бүтэлгүйтсэн тохиолдолд эелдэгээр бүтэлгүйтдэг.

Сонгодог бүтэлгүйтэл: ретривер бараг л алдагдсан баримт бичгийг татаж авдаг. Генератор үүнийг бүрэн тайван байдлаар бичдэг. Та эх сурвалж хэлбэртэй объектыг хараад шалгах зөн совин тань унтардаг. Би үүнийг хийдэг. Та магадгүй үүнийг хийдэг байх. Ишлэлийн санаа зөв; хэрэгжилт нь зөвхөн цохилтоор л сайн байдаг.

Хуучирсан мэдлэг бол нөгөө алдагдлыг хэлнэ. Зарим даалгаварт үнэ, бараа материалын нөөц, бодлогын одоогийн үг хэллэг гэх мэт шууд төлөв шаардлагатай байдаг. Заримд нь тогтвортой ур чадвар, тухайлбал санамж бичиг хэрхэн бүтээх гэх мэт шаардлагатай байдаг. Эдгээрийг хольж хутгавал аль хэдийн хөдөлсөн ертөнцийн талаар маш баттай хариулт авах болно. Түгээлтийн шилжилт бол насанд хүрэгчдийн нэршил юм: шууд түгээлт нь сургалтын түгээлт биш бөгөөд захын тохиолдлууд нь завсар зайд амьдардаг.

Бас нэг зүйлийг буруу байрлуулсан зураасаар хэлье, учир нь миний тэмдэглэл ингэж харагдаж байна: газардуулга бол шал, харин гэрэлт цагираг биш. Хэрэв та авсан хэсгийг шалгаж чадахгүй бол илүү сайн гэрэлтүүлэгтэй үед л та манан дунд байна гэсэн үг.

Үнэлгээний театр: үзүүлбэр яагаад аймшигтай шалгалт болдог вэ?

Үзүүлэнгүүд нь урам зориг өгч байна. Бенчмаркууд нь арай илүү илэн далангүй боловч таны ажил биш хэвээр байна.

Загвар нь мянган үеэлүүдийнхээ өмнөөс харсан цэвэрхэн даалгавар, даалгавар - мэдээж энэ нь хурц харагдаж байна. Зөвхөн тайзны жүжгийг хэмжиж буй үнэлгээ. Шууд ажлын урсгалууд нь орооцолдсон буулгалт, алга болсон файлууд, мөн тэдний түгшүүрийг бууруулдаг анхны хариултыг хүлээн авах хэрэглэгчтэй байна.

Бенчмаркууд чухал. Тэд зүгээр л тавцангууд дүр эсгэдэг шиг сайн аялдаггүй. Тэргүүлэгчдийн самбарын оноо нь таны тасалбар дээрх тохируулга биш юм. Компанийн загварын эрсдэл нь "энэ нь эзлэхүүн дээр буруу байхад юу болох вэ" гэсэн үг биш, харин "тривиа багцыг давсан уу" гэсэн үг юм. Танд хэрэгтэй тестүүд хуурай байна: авсан хэсгээс дотор үлдэх; хууран мэхлэхийн оронд тодорхойгүй байдлыг тэмдэглэх; дахин хэлэхдээ тууштай байх; алдаа гаргах (зохион бүтээх)-ийн оронд хаалттай алдаа гаргах (татгалзах, асуух, хойшлуулах).

Хүмүүс ганцхан гайхалтай дууссан хоолыг нотолгоо гэж үздэгийг би харсан. Энэ нь рестораныг эхлэл нь сайхан байсан учраас "найдвартай" гэж шийдэхтэй адил юм. Магадгүй тийм байх. Магадгүй гал тогоо арван минут л сайн байсан байх.

Бага зэрэг зөрчилдөөн гарч ирж байна: Би мэдрэмж авахын тулд демо ашигладаг хэвээр байна. Би зүгээр л мэдрэмжийг нь ашигладаггүй.

Хиймэл оюун ухаан найдвартай юу? Зөвхөн хэн нэгэн одоо хүртэл донтсон тохиолдолд л

Хүн-цогцос дахь загвар нь алдааны горимуудтай тохирох цорын ганц загвар юм.

Хэрэв хэн ч хариуцлага хүлээхгүй бол системийг яг л байгаа мэт ашиглах болно. Засаглал гэдэг нь "хэн хянадаг, хэн зогсоож чадах, юуг бүртгэдэг, алдаа гарсны дараа юу болдог" гэсэн утгатай эвгүй нэршил юм. Агентууд үүнийг илүү тодорхой болгодог, учир нь тэд зөвхөн догол мөрүүдээс гадна арга хэмжээ авдаг. Таны илгээгээгүй ноорог хямд байдаг. Таны илгээхийг хүсээгүй хэрэгсэл дуудсан нь тийм биш юм.

Хэн буруутгагдаж байгааг нэрлэнэ үү. Хэрэв хариулт нь "загвар өмсөгч" бол танд хариулт байхгүй. Загвар өмсөгчид хэрэг явдлын дараа уулзалтад очдоггүй. Хүн очдог, эсвэл тоос сорогч очдог, дараа нь хуульч очдог.

Тэсрэлтийн радиустай тохирох шалгалтуудыг сонгоно уу. Сошиал постын зөв бичгийн түвшний тойм. Баримтыг баталж буй аливаа зүйлийн эх сурвалжийн шалгалт. Анагаах ухаан, хууль, зээл, аюулгүй байдлын чухал үйл ажиллагаатай холбоотой аливаа зүйлийн мэргэжлийн хүн. Тэдний хувьд хүн "давталтанд" байдаггүй. Хүн бол давталт юм. Загвар бол үл ойлголцол юм. Энэ бол хувь хүний ​​​​хувьд эргэлзээ биш. Энэ бол амт юм.

Одоо чекийг гялалзсан илгээх товчлуурын ард нуух моод болсон. Өнөө үед та цуурхлыг санамсаргүйгээр ингэж автоматжуулдаг болсон. Сүүлийн үед би үүнд илүү тайван хандаж, ажил сайжирсан.

Алдаагаа олохын тулд яаж асуух вэ

Та нарны гэрлийн талаар мэргэжлийн эргэлзэлгүйгээр эдгээр системийг шалгаж болно.

• Тодорхой бус байдлыг зориудаар асуу. "Үүнийг юу буруу болгох вэ?" гэдэг нь "өөртөө итгэлтэй болгох" гэдэгтэй адил юм.

• Боломжтой үедээ сэргээн засварлах ажлыг үеэс үед хуваа. Эхлээд хэсгүүдийг нь хар. Дараа нь бичвэрийг нь асуу.

• Хувцасыг солино уу. Дахин хэлнэ үү. Эсрэгээр нь маргахыг хүс. Хэрэв та үүнийг ингэж ашиглавал шуурхай мэдрэмж гэдэг нь гар чийдэн юм.

• Хүчээр хязгаарлах: "зөвхөн миний буулгасан текстээс", "хэрэв байхгүй бол байхгүй гэж хэлээрэй". Загварууд үүнийг гайхалтайгаар дуулгавартай дагаж мөрддөг... үгүй ​​болтол нь. Ямартай ч шалгаарай.

• Баталгаажуулагчтай даалгавруудыг илүүд үздэг. Хөрвүүлэгч, линтер, схемийн шалгалт, хоёр дахь нүд. Найдвартай байдал нь зэрэглэгчийг хайрладаг.

• Хэлэхийг нь анхаар: илүү тодорхой байдал. Тодорхой харагдах дүрс, нэрлэсэн тохиолдол, цэгцтэй дугаарлагдсан өгүүлбэр - хий үзэгдэл ингэж л гоёдог.

• Хүний алхааг ил харагдуул. Хэрэв хэрэглэгчийн интерфэйс чекийг нуувал хүмүүс чекийг алгасна. Энэ бол тавилга болохоос ёс суртахууны доголдол биш.

Энэ бүхэн загварыг "үнэн" болгохгүй. Энэ нь давталтыг бага итгэмээр болгодог. Энэ нь үр дүн гэж би бодож байна.

Газрын зураг таныг хаашаа орхих вэ

Тэгэхээр. Тийм/үгүй асуулт нь зөвхөн хаалга болж үйлчилнэ.

Хиймэл оюун ухаан найдвартай юу? Шинж чанар биш. Даалгаврын шинж чанар, өгөгдлийн багц, сэргээх давталт, демо биш үнэлгээ, мөн үүнийгээ хэлэх ёстой хүний ​​хувьд. Бид хэлний амьтад бөгөөд эдгээр системүүд нь хэлний машин учраас чөлөөтэй ярих нь биднийг хуурсаар байх болно. Ажиллах хугацаа нь үнэнтэй андуурсаар байх болно, учир нь хоёулаа "ажилласан" мэт санагдах болно. Хамтран ажиллагсад дунд нь орооцолдсон байр сууриа эзэлсээр байх болно - ноорог, таны гүйлгэж харах боломжтой товч агуулга, таны эмхэтгэх боломжтой код - мөн бид шийдвэр гаргахыг санаа зовохгүй байгаа догол мөрд даатгахад аюултай.

Алдаа хямд эсвэл барьж болох газарт ашиглаарай. Алдаа үнэтэй газарт удаашраарай. Энэ бол шууд хариулт бөгөөд энэ нь уриа лоозонгоос илүү үнэ цэнэтэй юм.

Хэрэв та нэг зүйлийг авч үзвэл: загвараас итгэлтэй эсэхийг нь асуухаа боль. Энэ нь хэрхэн буруу байж болохыг асуухад юу болохыг ажигла. Дараа нь шалга.

Бодит жишээ: Гишүүнчлэлийн бодлогын хиймэл оюун ухааны туслах бүтээх

Хувилбар

Прияа бие даасан фитнесс клубуудын Их Британийн 70 хүний ​​бүрэлдэхүүнтэй худалдааны байгууллага болох Harbour Membership-д мэдлэг эзэмшдэг. Гишүүдийн асуултанд гурван хүн хариулдаг. Үнэний эх сурвалж нь улирал бүр шинэчлэгддэг 180 хуудастай гарын авлага бөгөөд хэн ч устгахыг хүсдэггүй хуучин PDF файлууд юм.

Манлайлал аль хэдийн тусламжийн ширээний хамтран туршилтын ажилтан худалдаж авсан. Демо хувилбар нь дажгүй байсан. Ажиллах хугацаа хэвийн байсан. Хоёр дахь долоо хоногт чөлөөтэй драфт нь гишүүнд 14 хоногийн турш хөлдөөж, "стандарт" байдлаар бүрэн буцаан олголт авах боломжтой гэж хэлсэн. Энэ бол бодлого биш. Агент мөнгөний асуудал гарсан ч гарын авлагыг нээсээр байгаа тул үүнийг олж мэдсэн. Манлайллын тийм эсвэл үгүй ​​​​гэж хариулсан асуулт бол: хиймэл оюун ухаан найдвартай юу?

Прияа уг шийдвэрийг хүлээн зөвшөөрөхгүй. Тэр үүнийг газрын зураг гэж үздэг. Даалгавар нь "гишүүдэд мэргэ төлөг өгөх" биш. Энэ нь "одоогийн гарын авлагаас хариулт ноороглох, хэсгийг харуулах, хэсэг байхгүй үед алдааг хаах" явдал юм. Хэрэв хоёрдугаар нисгэгч үүнийг хийж чадахгүй бол энэ нь бодлогын ширээ биш, харин ноорог тоглоом юм.

Туслахад юу хэрэгтэй вэ

• 2026 оны 4-р сарын гарын авлага нь зөвшөөрөгдсөн цорын ганц корпус бөгөөд хэсгийн дугаарууд нь хэвээрээ байна

• Хуучин 2023 оны PDF файлыг зориудаар дискэнд үлдээсэн тул тэд бараг л олдохгүй байгаа зүйлийг олж авах боломжтой эсэхийг харах боломжтой

• Бичгээр бичсэн дүрэм: хэрэглэгчийн хэрэгсэлд хэрэглэгчийн хувийн мэдээлэл оруулахгүй байх; хүнгүйгээр илгээх боломжгүй; тоо, цонх эсвэл "стандарт" заалтуудыг зохиохыг хориглоно

• Промпууд, авсан хэсгүүд болон эцсийн илгээлтийг бүртгэх зөвшөөрөл

• Хэрэв шалгалтын сет оноо авч, бүтэлгүйтвэл хоёрдугаар нисгэгчийг зогсоох нэртэй эзэмшигч (Прияа) нь мөнгөний асуултанд зоос шидэхээс ч дор хаагдсан

• Хэрэв хэрэгсэл нь сэргээхийг дэмждэг бол авсан хэсэг нь ноорогны хажууд харагдах ёстой. Хэрэв үгүй ​​бол тэд хэсгийг гараар наана. Шалгаж болох гарцгүй газардуулга нь манантай хэвээр байна.

Жишээ заавар

Прия үүнийг тайзны жүжгийн даалгавар биш, харин энгийн хэлээр илэрхийлж байна:

Зөвхөн танд өгсөн 2026 оны 4-р сарын гарын авлагын хэсгээс хариулна уу. Хэсгийн дугаарыг иш татна уу. Хэрэв хариулт нь эдгээр хэсэгт байхгүй бол "одоогийн гарын авлагад байхгүй" гэж хэлээд зогсооно уу. Цонх хөлдөөх, буцаан олголтын дүрэм, хураамжийг зохиож болохгүй. "Фитнесс заалны үзэмжээр"-ийг "стандарт" болгон сайжруулж болохгүй. Хэрэв хоёр хэсэг зөрчилдвөл хоёуланг нь үзүүлж, аль нь одоогийнх болохыг хэлнэ үү. Та гишүүнд ямар нэгэн зүйл очихоос өмнө эх сурвалжийг нээх хүний ​​​​драфт хийж байна.

Дараа нь тэр өөртөө хоёр дахь зааврыг хадгалдаг, учир нь өгүүллийн гол санаа нь загвар биш, харин давталт юм:

Илгээхээсээ өмнө иш татсан хэсгийг нээнэ үү. "Үүнийг юу буруу болгох вэ?" гэж асууна уу. Хэрэв ноорог хэсэгт хэсэг дээр байхгүй тоо байгаа бол татгалзана уу. Хэрэв би яарч буй дарга шиг асуусан бол эргэлзэж байгаа хүн шиг дахин асуугаад харьцуулна уу.

Сайн ноорог иймэрхүү харагдаж байна: "Одоогийн гарын авлагад байхгүй (2026 оны 4-р сар, 4.2-р хэсэг). Хөлдөөх нь биеийн тамирын заалны үзэмжээр. Буцаан олголт автоматаар хийгддэггүй. Шалгуурыг нэмэгдүүлнэ." Муу ноорог иймэрхүү харагдаж байна: "Гишүүд 14 хоногийн турш хөлдөөж, стандартын дагуу бүрэн буцаан олголт авч болно. Гарын авлагад баталгаажсан." Үүнтэй адил өнгө аяс. Эдгээрийн зөвхөн нэг нь бодлого юм.

Үүнийг хэрхэн шалгах вэ

Прияа аль ч туслах нисгэгчийн гаралтыг харахаасаа өмнө 20 асуулт бичдэг. Энэ дараалал чухал. Үзүүлбэр бол гэрэлтүүлэг юм. Энэ бол хуурай тест юм.

Энэ багц нь асуулт биш. Энэ бол шууд дамжуулалт юм:

• Хариулт нь одоогийн нэг хэсэгт байгаа найман асуулт (хялбар асуултууд)

• Дөрвөн алдаа гарсан бөгөөд 2023 оны PDF хувилбар нь дөрөвдүгээр сарын текстээс үг хэллэгээрээ илүү ойр байна

• "Гарын авлагад байхгүй" гэсэн гурван асуулт (төлбөрийн маргаан, эмнэлгийн холбогдолтой "энэ сургалт аюулгүй юу", хууль эрх зүйн холбогдолтой гэрээний өөрчлөлт)

• Мөнгөний гурван асуулт (царцаах, буцаан олголт, нэгдэх хураамж)

• Энгийн гишүүний хоёр асуулт (нээлтийн цаг, дасгалжуулагчийн даатгал)

Эдгээр хорин хүний ​​хоёрыг нь мөн хоёр дахь хувцастайгаар дахин асуусан бөгөөд нэг удаа яарсан дарга, нэг удаа эргэлзсэн, шуурхай мэдрэмжийг шалгах зорилгоор байв. Эдгээр дахин асуулгыг 20 зүйлийн оноонд оруулалгүйгээр бүртгэсэн.

Гарын авлага нээлттэй байхад Прияагийн оноо авсан Рубрик: дамжуулалт нь зөв одоогийн дүрэм, бодит хэсгийн дугаар, нэмэлт зохиомол заалтгүй байх шаардлагатай. Чимээгүй алдаа гэдэг нь үл хамаарах зүйлийг хассан эсвэл магадгүй гэдгийг заавал биелүүлэх ёстой зүйл болгон хувиргасан техникийн хувьд нарийн өгүүлбэр юм. Нээлттэй алдаа гэдэг нь зохиомол дугаар эсвэл одоогийн гэж тооцогдсон бараг л алдаатай PDF юм. Ажиллах хугацааг тусад нь тоолдог, учир нь "хариу өгсөн" гэдэг нь "тийм байсан" гэсэн үг биш юм.

Цааш үргэлжлүүлэхийг хүлээн зөвшөөрөх: мөнгөний асуудлаар алдаагаа онгойлгохын оронд хаалттай алдаа гаргах. Хэрэв хамтран зохион байгуулагч буцаан олголтын цонх зохион бүтээвэл шууд тасалбарын ноорог гаргахгүй. Хэрэв хэн ч эх сурвалжийг нээхгүй бол шууд тасалбарын ноорог гаргахгүй.

Үр дүн

Харборын гишүүнчлэлийн нийтлэгдсэн тоо баримт биш, харин зохиомол 20 асуулттай тестийн жишээ үр дүн.

Таамаглал: нэг тусламжийн ширээний туслах нисгэгч; 2026 оны 4-р сарын гарын авлага болон 2023 оны үлдсэн PDF; Прияа дээрх шалгуурт оноо авсан; цагийг "Би үүнийг илгээх байсан" гэсэн асуултад наасан утасны секундомер байсан; давталтын нөхцөл байдалд хянах хугацааг санаатайгаар оруулсан бөгөөд тэмдэглээгүй нөхцөлд хассан тул харьцуулалт жигд хэвээр байна.

Хамтран ажилласан, демо маягийн асуултыг шалгаагүй: 20 асуултын 20 нь чөлөөтэй хариулт авсан (ажиллах хугацаа төгс харагдаж байсан). 20 асуултын 11 нь шалгуурыг хангасан. Таван нь чимээгүй алдаа байсан. Дөрвөн нь нээлттэй алдаа байсан бөгөөд үүнд 14 хоногийн хөлдөөлт багтсан. Дөрвөн нээлттэй алдааны хоёр нь 2023 оны PDF-ээс эх сурвалж хэлбэртэй хэсгийг иш татсан. Илгээх боломжтой харагдаж буй ноорог хүртэлх дундаж хугацаа 1 минут байв.

Адилхан 20 асуулт, хязгаарлагдмал зааварчилгаа, хэсэг нь харагдаж байна: 20 асуултын 15 нь 4-р сарын текстээс бүрэн зөв байсан. Гурван асуултанд "одоогийн гарын авлагад байхгүй" гэж зөв бичсэн (эмнэлгийн болон хуулийн холбогдолтой зэргэлдээ зүйлс, мөн нэг төлбөрийн маргаан), тиймээс 20 асуултын 18 нь хүлээн зөвшөөрөгдсөн. Хоёр асуулт нь бүтэлгүйтсэн: нэг нь бараг л хожигдох шахсан 2023 оны PDF файлыг бичсэн, нөгөө нь хэсэгт байхгүй элсэлтийн төлбөрийн тоог зохиосон. Ноорог хийхэд дунджаар 1 минут орчим хугацаа үлдсэн.

Мөн 20, дээрээс нь Прияа дуураймал илгээлт хийхийн өмнө иш татсан хэсгийг нээсэн: 20-ийн 19 нь хүлээн зөвшөөрөгдөх байсан. Тэр бараг л алдаатай PDF файлыг оллоо. Үлдсэн алдаа нь шүүмжлэгч чөлөөтэй догол мөрийг гүйлгэн уншаад зохиомол нэгдэх төлбөрийн тоог анзаараагүй явдал байв. Шүүмжийг оруулаад дундаж хугацаа 3 минут байв.

Хуучин процесс, зөвхөн гарын авлагын хайлт, хамтрагч байхгүй: 20-оос 20 нь хүлээн зөвшөөрөгдөнө. Дунджаар 9 минут.

Энэ түүврийн туршид давталттай хоёрдугаар нисгэгч нь гарын авлагын хайлтаас 6 минутаар хурдан (9-өөс 3) буюу 20 асуултад 120 минутаар хурдан байсан бөгөөд 20 асуултын 20-ийн оронд 20 асуултын 19-ийг хүлээн зөвшөөрсөн байна. Шалгагдаагүй хоёрдугаар нисгэгч нь 20 асуултын 9-д 8 минутаар хурдан (9-өөс 1-ийг) байсан бөгөөд чимээгүй эсвэл чангаар буруу хариулсан байна. Энэ нь жолооны хүрдэнд оруулах 67% цаг хэмнэсэн гэсэн үг биш юм. Энэ нь автоматжуулсан 9 алдаатай гоожилт юм.

Хоёр давтагдсан асуултын яаруу сандруу хувилбарууд хоёулаа давуу талтай байсан. Үл итгэгч хувилбарууд үүнийг эсэргүүцэв. Адилхан загвар, адилхан гарын авлага, өөр хувцаслалт. Прияа үүнийг хувь хүний ​​​​шинж чанар биш, харин олдвор гэж тэмдэглэв.

Эдгээр тоо баримт нь заасан шалгалт, жижиг багц, ууртай гишүүнээс илүү хялбар тасалбарууд, мөн номыг аль хэдийн мэддэг байсан нэг шүүмжлэгч дээр үндэслэсэн жишээ тооцоолол юм. Эдгээр нь хамтран нисгэгч "95% найдвартай" эсвэл Харбор ширээний ажилтныг цомхотгох ёстой гэдгийг харуулаагүй. Эдгээр нь ажиллах цаг нь асуулт биш, харин шалгалт нь асуулт гэдгийг харуулж байна.

Юу буруу болж болох вэ

• Удирдлага 1 минутын драфтын хугацааг оноож, 9 алдааг алгасдаг. Хурд нь 16:00 цагт ч чадварлаг мэт санагддаг.

• 2023 оны PDF файл индекст хэвээрээ байна. Дахин ачаалал нэмэгдсээр байна. Grounding нь насанд хүрсэн харагдаж байгаа ч бараг л алдаатай хэвээр байна.

• Хэрэглэгчийн интерфэйс нь авсан хэсгийг гялалзсан илгээх товчлуурын ард нуудаг. Хүмүүс гарын авлагыг нээхээ больдог бөгөөд ингэснээр хөлдөөх хариулт гишүүнд хүрдэг.

• Прия слайд дээр илүү гоё харагддаг тул зөвхөн найман хялбар асуултанд л оноо авсан. Үнэлгээний театр, зүгээр л хүснэгт ашиглан.

• Эмнэлгийн холбогдолтой "энэ сургалт аюулгүй юу?" гэсэн хариулт нь товч хариулт шиг харагдаж болно. Газрын зураг дээр бараг хэзээ ч үгүй ​​гэж бичсэн байсан бол өнгө аяс нь үргэлжлүүл гэж хэлсэн.

• "Нэмэлт санагдсан" учраас логуудыг тайлсан. Алдаа гарсны дараа хэн ч аль хэсгийг олж авсныг харж чадахгүй.

• Тэд загвараас үүнийг баттай эсэхийг асуудаг. Тийм ээ. Энэ бол хэзээ ч туршилт байгаагүй.

Практик хоол

Найдвартай байдал бол Харборыг худалдаж авсан хоёрдугаар нисгэгчийн шинж чанар биш юм. Энэ нь 20 асуулт, одоогийн гарын авлага, харагдахуйц хэсэг, мөнгөний асуудал гарсан үед эх сурвалжийг нээж өгдөг хүнээс бүрдсэн шинж чанар юм. Чөлөөтэй ярих нь ажиллах хугацааны шалгалтыг давсаар байх болно. Давталт бол бодлогын шалгалтыг давсан цорын ганц зүйл юм.

Түгээмэл асуултууд

Бүтээлч хиймэл оюун ухааны хувьд найдвартай гэдэг нь юу гэсэн үг вэ?

Өдөр тутмын найдвартай байдал гэдэг нь та ямар нэгэн зүйлд найдаж болно гэсэн үг юм. Автоматжуулалтын тусламжтайгаар бүхэл бүтэн шинж чанарууд нэг үгийн дор нуугдаж байдаг: бодит байдал, тууштай байдал, тохируулга, аюулгүй байдал, ажиллах хугацаа, шуурхай мэдрэмж, захын тохиолдлууд, түгээлтийн шилжилтийн дараах зан байдал. Эдгээрийн аль нь ч хамтдаа бүтэлгүйтдэггүй. Шууд туршилт нь юунд, хэнд, аль давталттай холбоотойгоор найдвартай байдаг. Үгүй бол та блендерийг татвар төлж чадах эсэхээр нь үнэлж байна.

Хиймэл оюун ухаан найдвартай юу?

Шинж чанар биш. LLM нь нэг ажилд бат бөх байж, дараагийн ажилд чимээгүйхэн тайвширч чаддаг, заримдаа нэг суудал дээр, заримдаа та таслал хөдөлгөснөөс болж. Найдвартай байдал гэдэг нь даалгавар, өгөгдлийн багц, сэргээх давталт, туршилт биш үнэлгээ, мөн үүнийгээ үнэнчээр хэлэх ёстой хүний ​​​​шинж чанар юм. Алдаа нь хямд эсвэл олж болох үед үүнийг ашиглаарай. Алдаа нь үнэтэй үед удаашруул.

Хиймэл оюун ухааны ажиллах хугацаа нь үнэнч шударга байдалтай адил уу?

Үгүй. Ажиллах хугацаа гэдэг нь эцсийн цэг хариулсан эсэх юм. Үнэнч байдал гэдэг нь хариулт тийм байсан эсэх юм. Та хэзээ ч нүдээ анивчдаггүй, гэхдээ хэрэглэгчийн тасалбарт чөлөөтэй худал мэдээлэл оруулдаг үйлчилгээтэй байж болно. Очеред мангас байхад хурд нь чадвар шиг санагддаг. Аюулгүй байдал бол өөр нэг тэнхлэг юм: jailbreak-аас татгалзсан загвар нь таны тэмдэглэлийн хураангуйг эвдэж магадгүй юм.

Яагаад чөлөөтэй хиймэл оюун ухаан буруу байсан ч гэсэн найдвартай мэт санагддаг вэ?

Нарийвчлал болон чөлөөтэй ярих чадвар салж, чөлөөтэй ярих чадвар нь байр сууриа хадгалж үлдсэн. LLM нь танд хэмнэл, хамгаалалт, магадгүй хуурамч боловч хөөрхөн ишлэлийн хэлбэрийг өгөх бөгөөд таны тархи "энэ хүн мэдэж байна" гэж уншдаг. Тохируулга нь ихэвчлэн аймшигтай байдаг: өндөр итгэл үнэмшил, дунд зэргийн үнэн, гол үг шиг өгүүлдэг. Болхи буруу хариулт таныг сэжиглэхэд хүргэдэг. Чөлөөтэй буруу хариулт таныг шалгахаа больдог. Хэрэв энэ нь товч мэдээлэл шиг яригдвал бид үүнийг товч мэдээлэл шиг харьцдаг бөгөөд ингэснээр алдаа гаргасан хүн тавцанд ордог.

Хиймэл оюун ухаан нь эмнэлгийн, хууль эрх зүйн эсвэл хэрэглэгчийн дэмжлэгийн ажилд найдвартай юу?

Энэ нь брэндээс бус, ажлаас хамаарна. Эмнэлгийн болон хууль эрх зүйн зөвлөгөө нь бүтээгдэхүүн болгон бараг хэзээ ч хангалттай сайн байдаггүй: загвар нь хоосон зүйл, хүн бол мэргэжлийн хүн. Харилцагчийн дэмжлэг нь хатуу бодлогоор ноорог хийж болох ч хүн мөнгө, итгэлцлийг эзэмших ёстой, учир нь зохиомол бодлого болон эелдэг буруу "үгүй" гэдэг нь ердийн алдаа юм. Ноорог болон товч агуулга нь таны аль хэдийн мэддэг анхны дамжуулалтын текст юм. Нэр, дугаар, гэмтээх мөрийг шалгана уу.

Хиймэл оюун ухаан яагаад хий үзэгдэл хардаг, хазайдаг эсвэл чимээгүйхэн буруу зүйл хийдэг вэ?

Хий үзэгдэл бол халуун ногоотой алдаа юм: байхгүй ном, хэзээ ч илгээгдээгүй функц, албан ёсны мэт санагдах тоотой бодлогын заалт. Дрифт бол кино шиг биш: дэлхий хөдөлж, загварын үлдэгдэл үлдэж, та өмнөх цаг агаарын сайн зохион байгуулалттай хариултыг авдаг. Чимээгүй буруу ойлголт бол үл хамаарах зүйлийг хасдаг товч агуулга юм. Эсвэл магадгүй гэдгийг зайлшгүй шаардлагатай зүйл болгон сайжруулдаг парафраз. Бодит байдал нь техникийн хувьд сайн харагдаж болох ч утга нь буурч болно. Шуурхай мэдрэмж нь боолтыг өөрчлөхөд баримтыг гялалзуулдаг.

Газардуулга эсвэл сэргээлт нь хиймэл оюун ухааныг найдвартай болгодог уу?

Газардуулга гэдэг нь манангаас биш, харин үүнээс хариулт авах гэсэн үг юм. Авах нь одоо байгаа зүйлийг сургагдсан овоолго дээр бэхэлдэг. Энэ нь бүтэлгүйтсэн үед эелдэгээр бүтэлгүйтдэг: бараг л алдагдсан баримт бичиг, зохиосон бичлэг, таны шалгах зөн совин цагийг алддаг. Газардуулга бол шал болохоос гэрэл биш. Хэрэв та авсан хэсгийг шалгаж чадахгүй бол та илүү сайн гэрэлтүүлэгтэй байхад л манан дунд байна. Үнэ эсвэл бодлогын үг хэллэг гэх мэт шууд төлөвийн даалгавруудыг тогтвортой хөлөг онгоцтой хольж, аль хэдийн хөдөлсөн ертөнцийн талаар маш баттай хариултыг авах болно.

Демо яагаад хиймэл оюун ухааны найдвартай байдлын муу тест вэ?

Загварын мянган үеэл харсан цэвэрхэн даалгавар, даалгавар нь хурц харагдах болно. Шууд ажлын урсгалууд нь орооцолдсон буулгалт, алга болсон файлууд, мөн тэдний түгшүүрийг бууруулдаг анхны хариултыг хүлээн авах хэрэглэгчтэй байдаг. Тэргүүлэгчдийн самбарын оноо нь таны тасалбар дээрх тохируулга биш юм. Загварын эрсдэл нь энэ нь эзлэхүүн дээр буруу байх үед юу болдог вэ, асуулт хариултын багцыг давсан эсэх биш юм. Танд хэрэгтэй тестүүд хуурай байна: авсан хэсэг дотор үлдэж, хууран мэхлэхийн оронд тодорхойгүй байдлыг тэмдэглэж, дахин хэлэхдээ тууштай байж, зохиохын оронд алдааг хааж болно.

Хэрэв хэн ч эргэлзэж байвал хиймэл оюун ухаан найдвартай юу?

Үгүй. Хэрэв хэн ч хариуцлага хүлээхгүй бол системийг яг л байгаа мэт ашиглана. Хүн давталт доторх загвар нь алдааны горимуудтай тохирох цорын ганц загвар юм: хэн хянадаг, хэн зогсоож чадах, юуг бүртгэдэг, алдаа гарсны дараа юу болдог. Хэрэв хариулт нь "загвар" бол танд хариулт байхгүй. Загвар өмсөгчид ослын дараа уулзалтад оролцдоггүй. Анагаах ухаан, хууль эрх зүй, зээл эсвэл аюулгүй байдлын чухал ажиллагааны хувьд хүн бол давталт, загвар нь бүртгэл юм.

Алдаа илрүүлэхийн тулд хиймэл оюун ухааныг хэрхэн өдөөх вэ?

Зориудаар тодорхойгүй байдлыг асуу: "Үүнийг юу буруу болгох вэ?" гэж асуухаас илүү "итгэлтэй болгох" гэж хэлээрэй. Боломжтой үедээ сэргээлтийг үеэс үед хуваа. Эхлээд хэсгүүдийг хар, дараа нь бичвэрийг асуу. Хувцасны өмсгөлийг өөрчлөх: дахин хэллэг бичих эсвэл эсрэг зүйлийг батлахыг хүс. "Зөвхөн миний буулгасан текстээс" эсвэл "хэрэв байхгүй бол байхгүй гэж хэлээрэй" гэх мэт хязгаарлалтуудыг тулгаж, шалгаарай. Баталгаажуулагчтай даалгавруудыг илүүд үзэж, илүү тодорхой байдлыг ажиглаарай, учир нь хий үзэгдэл ийм байдлаар хувцаслах дуртай байдаг.

Лавлагаа

1. NIST - nvlpubs.nist.gov

2. NIST - airc.nist.gov

3. NIST - airc.nist.gov

4. ICO - ico.org.uk

5. NCSC - www.ncsc.gov.uk

6. NCSC - www.ncsc.gov.uk

7. OWASP - genai.owasp.org

Албан ёсны хиймэл оюун ухааны туслах дэлгүүрээс хамгийн сүүлийн үеийн хиймэл оюун ухааныг олоорой

Бидний тухай