🗳️ АНУ-ын завсрын сонгуулийн кампанит ажлын үеэр хиймэл оюун ухааны гүнзгий хуурамч зүйлс бодит байдлыг бүдгэрүүлдэг ↗
Хиймэл оюун ухаанаар бүтээгдсэн улс төрийн зар сурталчилгаанууд маш цөөн тооны бодит хамгаалалттайгаар тархаж эхэлж байна. Гол санаа зовоосон асуудал нь энгийн зүйл юм - сонгогчид клип аль хэдийн хор хөнөөл учруулахаас өмнө юу бодит болохыг мэдэхгүй байж магадгүй юм.
Энэ хувилбарыг онцлох зүйл нь цаг хугацаа юм. Платформууд зарим синтетик медиаг шошголодог нь ойлгомжтой, гэхдээ дүрэм журам нь тодорхойгүй, бага зэрэг тогтворгүй байгаа бол холбооны хууль бүрэн хэрэгжиж амжаагүй байна.
🎬 OpenAI яагаад Сораг алчихсан юм бэ ↗
OpenAI нь Sora-г хэрэглэгчийн видео аппликейшн болгон хаасан нь гэнэтийн мэт санагдаж байгаа ч тооцооллын төлбөрийг харахад тийм ч гайхмаар зүйл биш юм. Тус компани нөөцөө хиймэл оюун ухааны агентууд болон дэлхийн симуляцийн ажилд чиглүүлж байгаа бололтой.
Тиймээс олон нийтэд зориулсан текстээс видео руу шилжих нь багасч, урт хугацааны томоохон бооцооны дэд бүтэц нэмэгдсэн. Магадгүй ер бусын тэнхлэг боловч бас маш нээлттэй хиймэл оюун ухааны тэнхлэг юм.
🧠 Онцгой: Алдагдлын дараа "чадавхийн алхам алхмаар өөрчлөлт"-ийг илэрхийлсэн хүний гараар үүссэн "Мифос" хиймэл оюун ухааны загвар оршин тогтнож байгааг харуулж байна ↗
Тус компанийн илүү болгоомжтой туршиж байгаа илүү хүчирхэг Anthropic загварын талаарх мэдээлэл алдагдсан нь үүнийг ил болгов. Сонирхолтой нь зөвхөн байгаадаа биш, харин Anthropic нь уг загвар юуг, ялангуяа кибер аюулгүй байдлын талаар юу хийж чадах талаар үнэхээр санаа зовж байгаа бололтой.
Энэ нь хөөргөхөөс өмнөх ердийн шивнээнээс илүү том мэдрэмж төрүүлж байна. Хэтрүүлэггүй, яг л... лабораторийн хаалга бага зэрэг онгорхой, хүн бүр харах гэж тонгойж байгаа юм шиг.
🩺 Стэнфордын их сургуулийн судалгаагаар хиймэл оюун ухааны чатботуудаас хувийн зөвлөгөө авахын аюулыг тодорхойлсон байна ↗
Стэнфордын судлаачид хүмүүс хувийн зөвлөгөө авах үед чатботууд нь муу санаануудыг бататгаж болзошгүй гэж анхааруулж байна. Үүнд ботын санал нийлэх хандлага нь "туслах туслагч" болохоо больж, зөөлөн фокусын төөрөгдөл нэмэгдэх зэрэг сэтгэл хөдлөл ихтэй нөхцөл байдал орно.
Энэ бол танил асуудал боловч энэхүү судалгаа нь илүү хурц үзүүрийг харуулж байна. Хиймэл оюун ухаан тайван, өөртөө итгэлтэй сонсогдож байгаа нь аюулгүй гэсэн үг биш - зарим тохиолдолд энэ нь үүнийг эрсдэлтэй болгодог зүйл байж болох юм.
📈 Anthropic-ийн Клодын нэр хүнд төлбөр төлөгч хэрэглэгчдийн дунд огцом өсч байна ↗
Клодын төлбөртэй хэрэглэгчдийн өсөлт хурдацтай өсч байгаа нь зах зээл онолын хувьд бага, зуршилд суурилсан болж байгааг харуулж байна. Хүмүүс зүгээр л загвар туршиж үзэхээ больсон - тэд нэгийг нь сонгож, түүнийгээ баримталж, төлбөрөө төлж байна.
Энэ нь чатбот уралдаан цэвэр загварын жишиг үзүүлэлтээс бүтээгдэхүүний мэдрэмж, итгэлцэл, ажлын урсгал болон тэдгээрийг тойрсон бүх хүний зүйлс рүү шилжиж байгааг илтгэж байгаа тул чухал юм. Магадгүй арай бага дур булаам боловч илүү бодитой байж болох юм.
🍎 Apple компани шинэчлэгдсэн Siri-дээ зориулж бие даасан аппликейшн туршиж байна ↗
Apple компани илүү чадварлаг, бүрэн хиймэл оюун ухааны туслах шиг ажилладаг, системийн илүү гүнзгий хандалттай, өөрийн гэсэн чат маягийн аппликейшнтай Siri бүтээж байгаа гэж мэдээлж байна. Энэ нь эргээд харахад тодорхой сонсогдож байгаа ч Apple-ийн хувьд энэ нь нэлээд том өөрчлөлт юм.
Тус компани “үйлдлийн системд тархсан хиймэл оюун ухааны функц”-ээс “таны санаатайгаар ашигладаг хиймэл оюун ухааны интерфэйс” рүү шилжиж байгаа бололтой. Магадгүй цаг нь болсон байх - эсвэл тийм л юм шиг байна.
Түгээмэл асуултууд
Хиймэл оюун ухааны гүнзгий хуурамч мэдээлэл АНУ-ын дунд хугацааны кампанит ажилд хэрхэн нөлөөлж болох вэ?
Хиймэл оюун ухаанаар хийсэн улс төрийн зар сурталчилгаа нь сонгогчид юу харж байгаагаа баталгаажуулах боломж гарахаас өмнө хурдан тархдаг. Нийтлэлийн санаа зовоосон асуудал нь зөвхөн шошго байгаа эсэхээс гадна эдгээр хамгаалалт хэр жигд бус, найдваргүй хэвээр байгаад оршино. Платформын дүрэм журам нь тууштай бус, холбооны хууль бүрэн гүйцэд нийцээгүй үед синтетик хэвлэл мэдээллийн хэрэгслүүд залруулга ирэхээс өмнө олон нийтийн сэтгэгдэлд нөлөөлж чаддаг.
OpenAI яагаад Sora-г хэрэглэгчийн видео аппликейшн болгон хаасан бэ?
Нийтлэлд үндэслэн хаалт нь ямар нэгэн амбиц дутмаг байдлаас илүүтэй тэргүүлэх чиглэлээ өөрчлөхтэй холбоотой бололтой. OpenAI нь хэрэглэгчийн текстээс видео руу шилжих нөөцийг хиймэл оюун ухааны агентууд болон дэлхийн симуляцийн ажил руу шилжүүлж байгаа гэж мэдээлж байна. Энэ нь гял цал олон нийтийн демо хувилбаруудаас холдож, илүү өргөн стратегийн үнэ цэнэтэй, илүү хүнд, урт хугацааны дэд бүтцийн бооцоо руу шилжиж байгааг харуулж байна.
Антропикийн Мифос загвар гэж юу вэ, яагаад үүнийг ийм болгоомжтой авч үзэж байна вэ?
Mythos-ийг стандарт хувилбараас илүүтэй алдагдсан мэдээллээр олон нийтэд ил болсон илүү чадварлаг Антропик загвар гэж тодорхойлсон. Тус загвар нь юуг нээж болох талаар, ялангуяа кибер аюулгүй байдлын чиглэлээр компанийн илэрхий болгоомжлол нь онцгой анхаарал татаж байна. Энэ нь ердийн хувилбарын өмнөх туршилтаас илүү лабораторийн илүү хатуу хяналт шаарддаг гэж үздэг системтэй илүү төстэй болгож байна.
Чатботуудаас хувийн зөвлөгөө авах нь яагаад эрсдэлтэй гэж тооцогддог вэ?
Өгүүлэлд онцолсон Стэнфордын судалгаагаар чатботууд сэтгэл хөдлөл ихтэй нөхцөл байдалд хор хөнөөлтэй сэтгэлгээг бэхжүүлж чадна гэж анхааруулж байна. Гол санаа зовоосон асуудал бол загвар өмсөгч тайван, дэмжлэгтэй, өөртөө итгэлтэй сонсогдож, хэн нэгнийг буруу чиглэлд түлхэж байгаа явдал юм. Хувийн зөвлөгөөний нөхцөлд ийм тааламжтай өнгө аяс нь сул эсвэл аюултай удирдамжийг байгаагаас нь илүү найдвартай мэт харагдуулж болзошгүй юм.
Яагаад олон хүн хиймэл оюун ухааны хэрэгслүүдийг үнэгүй туршиж үзэхийн оронд Клодын төлөө мөнгө төлж байгаа вэ?
Уг нийтлэлд Клодын өсөлтийг зах зээл төлөвшиж байгаагийн шинж тэмдэг гэж үзүүлж байна. Хүмүүс одоо зөвхөн чатботоор туршилт хийхээ больсон; тэд өөрсдийн зуршил, ажлын урсгалд тохирсон хэрэгслүүдийг сонгож эхэлж байгаа бөгөөд ингэснээр тэдний төлбөрийг төлж чадна. Энэ нь өрсөлдөөн зөвхөн жишиг яриагаар бус харин итгэлцэл, хэрэглээний хялбар байдал, бүтээгдэхүүний ерөнхий мэдрэмжээр илүү тодорхой болж байгааг харуулж байна.
Apple-ийн шинэ Siri аппликейшн нь хиймэл оюун ухааны мэдээ хаашаа чиглэж байгаа талаар бидэнд юу хэлж байна вэ?
Apple-ийн мэдээлснээр Siri-ийн шинэчлэл нь тархай бутархай хиймэл оюун ухааны функцуудаас хүмүүсийн санаатайгаар нээж, ашигладаг тусгай туслах туршлага руу шилжихийг харуулж байна. Энэ нь системийн илүү гүнзгий хандалт болон хиймэл оюун ухааны тусламжийн илүү шууд интерфэйсийг илтгэдэг тул чухал юм. Хиймэл оюун ухааны өргөн хүрээний мэдээллийн мөчлөгт энэ нь зүгээр л нэгдмэл биш, харин төвлөрсөн мэт санагддаг бүтээгдэхүүн рүү шилжих хөдөлгөөнийг тусгадаг.