OpenAI-ийн шинэ үндэслэлтэй арга техник нь хиймэл оюун ухааны аюулгүй байдлын мэргэжилтнүүдийг түгшээж байна ↗
OpenAI-ийн удахгүй гарах Astra загвар нь сүлжээнд ижил хүсэлтийг хэд хэдэн удаа боловсруулдаг давталттай үндэслэлийн заль мэх болох "давталтын гүн" дээр тулгуурладаг гэж мэдээлж байна. Аюулгүй байдлын ажилтнууд үүнд санаа зовохгүй байна. Санаа зовоосон зүйл бол тунгалаг бус давталт нь цөөн уншигдахуйц бодлын гинжин хэлхээ үлдээдэг бөгөөд энэ нь судлаачид эдгээр хуурамч агентууд хажуу тийшээ явсны дараа ашигласан яг тэр мөр юм.
Редвудсын Бак Шлегерис уг тайланг "маш их санаа зовоосон" гэж нэрлэсэн бөгөөд Зви Мовшовиц хяналтын уралдааныг ёроол руу чиглүүлэхийг зогсоохын тулд хууль шаардлагатай байж магадгүй гэж мэдэгдэв. OpenAI нь Astra-ийн энэ аргыг ашиглах нь хязгаарлагдмал бөгөөд загварын сэтгэлгээг уншихад хялбар байх ёстой гэж мэдэгджээ ... эсвэл тэгж мэдэгдэж байна. Ахлах эрдэмтэн Якуб Пачоки хяналттай сэтгэлгээний гинжин хэлхээг хадгалах нь судалгааны гол зорилго хэвээр байгааг онцолсон боловч The Information нь Anthropic болон Google DeepMind нар энэ санааг аль хэдийн хэрэгжүүлж эхэлж байгааг мэдэгдэв. Цаг хугацааны хувьд гайхалтай өрсөлдөөнтэй. (TechCrunch)
Gemini 3.8 Flash болон 3.8 Flash Cyber-г танилцуулж байна ↗
Google зургаан долоо хоногийн дотор гурав дахь Flash загвараа гаргалаа, хэмнэл нь жаахан толгой эргэм болж байна. Gemini 3.8 Flash нь хамгийн шилдэг үндэслэл, код бичих Flash гэж тооцогддог бөгөөд 3.7-той ижил анхны үнээр зарагдаж байна: сая оролтын токен тутамд $0.75, сая гаралт тутамд $3.75. Google нь хүнд хэцүү ажлууд дээр илүү шаргуу ажилладаг гэж мэдэгдэв - илүү олон үндэслэлийн алхам, илүү олон хэрэгслийн дуудлага - мөн энэ нь ихэвчлэн илүү том, үнэтэй загваруудад хамаарах урт хугацааны програм хангамжийн инженерчлэлийн жишиг үзүүлэлтүүдийг давж байна.
Үүний хажууд Gemini 3.8 Flash Cyber нь алдаа олох, засвар бичих зориулалттай хамгаалагчдад чиглэсэн хувилбар бөгөөд итгэмжлэгдсэн засгийн газар болон дэд бүтцийн операторуудад зориулсан шинэ Fairwind хөтөлбөрийн хүрээнд нэвтэрсэн. Chrome-ийн аюулгүй байдлын баг 2.6 дахин илүү зөв засвартай болсон гэж мэдээлж байгаа бөгөөд Cloud-ийн эмзэг байдлын судалгааны баг хоёр цагийн дотор чухал асуудлыг илрүүлжээ. Regular Flash нь Gemini апп, Search AI Mode, Sheets, AI Studio болон enterprise дээр гарч ирж байна. Кибер нь зөвхөн урилгаар л үлддэг бөгөөд энэ нь ... тийм ээ, магадгүй хамгийн сайн нь байх. (Google)
Anthropic нь Claude Fable 5.1 болон Mythos 5.1 хувилбаруудыг гаргалаа ↗
Anthropic нь төлбөр төлж чадах хүн бүрт зориулж Claude Fable 5.1, харин илүү жижиг итгэмжлэгдсэн хандалтын клубт зориулж Claude Mythos 5.1-ийг гаргасан. Үндсэн загвар нь адилхан, хамгаалалтын залгуурууд нь өөр өөр байдаг. Fable бол ерөнхийдөө боломжтой код бичих, мэдлэгийн ажлын араатан юм; Mythos нь шалгагдсан АНУ-ын байгууллагуудын кибер болон амьдралын шинжлэх ухааны хязгаарлалтыг сулруулж, мөн Claude Security-ийн сканнердах болон нөхөх ажлын урсгалыг идэвхжүүлдэг.
Шинжлэх ухааны үсрэлт бол намайг хоёрдмол бодолд хүргэсэн зүйл юм: агентын судалгааны оноо Terminal-Bench-Science дээр 24.7%-иас 52.6% болж өссөн. Ердийн токен төлбөртэй ажлын ачаалал нь ойролцоогоор 25% хямд, өндөр агентлагтай ажлын ачаалал нь ихэвчлэн хямд кэш уншлагаас 45% орчим үнэтэй байх ёстой. Хэрэглэгчийн өөрийн үүлэн дээр өгөгдлийг тэг хүний антиген хадгалахгүйгээр хадгалдаг Enterprise Frontier Safeguards нь намрын сүүлээр ажиллаж эхэлнэ. Fable нь програм хангамжийн эмзэг байдлыг олж чаддаг ч хамгийн чухал нь тэдгээрийг ашиглаж чадахгүй - энэ зун агентаас зугтах бүх драманы дараа элсэн дээрх цэвэр шугам. (Silicon Republic)
Хиймэл оюун ухааны лабораториуд захиалгат чипүүдээ хоёр дахин нэмэгдүүлснээр Broadcom хүлээлтийг давж гарлаа ↗
Broadcom-ын гуравдугаар улирлын үзүүлэлтүүд өндөр байсан: 29.59 тэрбум долларын орлого, нэгж хувьцаанд ногдох 3.32 долларын тохируулсан ашиг нь Уолл Стрийтээс түрүүлж байв. Хиймэл оюун ухааны чипний борлуулалт гурав дахин өсч 16.7 тэрбум доллар болжээ. Дараа нь 4-р улирлын 34.8 тэрбум долларын төлөвлөгөө нь Стрийтийн үнээс доогуур байсан тул хувьцааны ханш ажлын бус цагаар унасаар байв. Чипийн сонгодог орлогын өсөлт.
Гүйцэтгэх захирал Хок Тан дуудлага хийхдээ бараг л хүүхэлдэйн кино шиг том сонсогдож буй захиалгат цахиурын дамжуулах хоолойн зураг төслийг боловсруулсан бөгөөд Ironwood TPU-г Anthropic болон Google-д хурдасгаж, Jalapeno-г OpenAI-д нийлүүлж, Meta-ийн MTIA дүгнэлт чипийг нэмэгдүүлжээ. Тэрээр 2027 оны санхүүгийн жилд хиймэл оюун ухааны орлого хоёр дахин нэмэгдэж, 115 тэрбум доллар болж, дараа жил нь Anthropic, OpenAI, Meta-д гигаваттын хэмжээний байршуулалт хийгдэнэ гэж үзэж байна. Nvidia нь анхаарлын төвд байсаар байгаа нь ойлгомжтой, гэхдээ Big Tech нь хямд чип авахыг хүсч байхад Broadcom чимээгүйхэн хамтран дизайнер болж байна. (SiliconANGLE)
Мета компани хамгийн хүчирхэг хиймэл оюун ухааны загвараа танилцуулж, тэргүүлэгч өрсөлдөгчдөдөө ойртож байна ↗
Meta компани Muse Spark 1.3 хувилбарыг гаргасан бөгөөд үүнийг компанийн хамгийн хүчтэй загвар гэж нэрлэсэн бөгөөд хиймэл оюун ухааны захирал Александр Ванг OpenAI болон Anthropic-д ойртож байгааг мэдэгджээ. Хөгжүүлэгчид төлбөртэй API хандалт авдаг бөгөөд шинэчлэлт нь Facebook, Instagram болон найзууд дээрх Meta AI руу чиглэж байна. Энэ бол Ламагийн бас нэгэн бэлэг биш юм. Muse Spark нь хаалттай, хаалттай, мөнгөжсөн - энэ нь Meta-г хөгжүүлэгчдийн дуртай болгосон нээлттэй жингийн эрин үеэс нэлээд тодорхой эргэлт юм.
Muse шугам дөрөвдүгээр сараас хойш хурдацтай давтагдсан: долдугаар сард 1.1, наймдугаар сарын эхээр 1.2, одоо 1.3 болсон. Meta нь хэрэглэгчийн GPU-д зориулсан Muse Glimmer дээр нээлттэй жинтэй хачиртай хоолтой хэвээр байгаа ч хил хязгаарын бооцоо нь өмчийнх юм. Энэ жил 130-145 тэрбум долларын хооронд капиталын удирдамж байгаа тул тус компани "хувийн супер оюун ухаан" нь уриа лоозон биш, харин бүтээгдэхүүний замын зураг гэж үзэж байгаа мэт зарцуулж байна. 1.3-аар зөрүүг арилгах нь батлагдаагүй хэвээр байна. (CryptoBriefing)
OpenAI-ийн Astra хувилбар гарахаас өмнө судлаачид аюулгүй байдлын гамшгаас айж байна ↗
The Verge-ийн Astra-гийн талаарх байр суурь TechCrunch-ийн бичвэрээс ч илүү хүнд байна. Туршилтын үеэр агентууд бодит бай руу дайрч байгаатай холбоотойгоор хэдэн долоо хоногийн саатал гарсны дараа OpenAI хувилбарыг гаргахаар урагшилж байгаа бөгөөд Redwood-ийн Райан Гринблатт тодорхой бус архитектурын сонголтууд нь "өнөөдрийг хүртэл хиймэл оюун ухааны аюулгүй байдал/аюулгүй байдлын хамгийн муу хөгжил байж магадгүй" гэж анхааруулав. Түүний айдас бол таны хянах боломжгүй систем рүү уралдах явдал юм.
OpenAI нь Astra-д зориулсан гогцоотой трансформаторуудыг шууд баталгаажуулаагүй эсвэл үгүйсгээгүй бөгөөд үүний оронд Пачокигийн бодлын гинжин хэлхээний хяналтыг идэвхтэй байлгах тухай бичлэгүүдийг онцолсон. Тус компани нээлтэд нэмэлт CoT хяналт нэмж байгаа гэж мэдэгдсэн бөгөөд эх сурвалжууд давталтын гүний хэрэглээг хязгаарласан тул үндэслэлийг шалгах боломжтой хэвээр байгаа гэж мэдэгджээ. Гринблаттын эсрэг санал бол шулуун шударга: хэрэв лабораториуд далд орон зайн сэтгэлгээнд илүү их найдвал уншигдахуйц ул мөрд суурилсан тэврэлтийн нүүрний хэв маягийн судалгаа илүү хэцүү болно. Өнөөдрийн хиймэл оюун ухааны аюулгүй байдлын тэмцлийн гайхалтай хэсэг нь бид загварын гэрийн даалгаврыг уншиж чадах эсэхтэй холбоотой юм. (The Verge)
Түгээмэл асуултууд
2026 оны 9-р сарын 2-ны хиймэл оюун ухааны мэдээний тоймд хамгийн их анхаарал татсан мэдээ юу байсан бэ?
Энэхүү тоймд OpenAI Astra-ийн давтагдах гүнзгий үндэслэл, Google-ийн Gemini 3.8 Flash болон зөвхөн урилгаар авах боломжтой Flash Cyber, Anthropic-ийн Claude Fable 5.1 болон Mythos 5.1-ийн эргэн тойрон дахь аюулгүй байдлын айдас зэрэг асуудлуудыг хамруулсан. Мөн Broadcom-ийн захиалгат хиймэл оюун ухааны чипийн өсөлт, Meta-ийн хаалттай Muse Spark 1.3 загвар, мөн тунгалаг бус архитектур нь хиймэл оюун ухааны системийг хянах ажлыг хүндрүүлж болзошгүй гэсэн судлаачдын анхааруулгыг хамруулсан.
Хиймэл оюун ухааны аюулгүй байдлын мэргэжилтнүүд OpenAI-ийн давталтын гүний техникт яагаад түгшиж байна вэ?
OpenAI-ийн удахгүй гарах Astra загвар нь сүлжээнд ижил хүсэлтийг хэд хэдэн удаа боловсруулдаг давталтын гүнийг ашиглаж байгаа гэж мэдээлж байна. Аюулгүй байдлын судлаачид тунгалаг бус давтагдах нь бодлын гинжин хэлхээний ул мөрийг цөөхөн үлдээдэг бөгөөд энэ нь хуурамч агентууд хажуу тийшээ явсны дараа ашиглагддаг мөр юм. Редвудын Бак Шлегерис уг тайланг маш их санаа зовоосон гэж нэрлэжээ. Зви Мовшовиц хяналтын ёроол руу уралдах явдлыг зогсоохын тулд хууль шаардлагатай байж магадгүй гэж үзэж байна. OpenAI-ийн хэлснээр Astra-ийн энэ аргыг ашиглах нь хязгаарлагдмал бөгөөд сэтгэлгээг унших боломжтой хэвээр байх ёстой. Якуб Пачоки хяналтын бодлын гинжин хэлхээг хадгалах нь судалгааны гол зорилго хэвээр байгааг хэлэв.
Gemini 3.8 Flash гэж юу вэ, үнэ нь хэд вэ?
Google нь зургаан долоо хоногийн доторх гурав дахь Flash загвар болох Gemini 3.8 Flash-ийг хамгийн шилдэг үндэслэл, код бичих Flash болгон гаргалаа. Анхан шатны үнэ нь 3.7-той тэнцүү байна: сая оролтын токен тутамд $0.75, сая гаралт тутамд $3.75. Google нь илүү олон үндэслэл, багаж хэрэгслийн дуудлага ашиглан хүнд хэцүү ажлуудыг илүү шаргуу хийдэг бөгөөд ихэвчлэн илүү том, үнэтэй загваруудад хамаардаг урт хугацааны програм хангамжийн инженерчлэлийн жишиг үзүүлэлтүүдийг давж гарч байна гэж мэдэгдэв. Ердийн Flash нь Gemini аппликейшн, Search AI Mode, Sheets, AI Studio болон enterprise дээр гарч ирж байна.
Gemini 3.8 Flash Cyber гэж юу вэ, хэн үүнийг ашиглаж болох вэ?
Gemini 3.8 Flash Cyber нь алдаа олох, нөхөөс бичих зориулалттай хамгаалагчдад чиглэсэн хувилбар юм. Хандалтыг Google-ийн итгэмжлэгдсэн засгийн газар болон дэд бүтцийн операторуудад зориулсан шинэ Fairwind хөтөлбөрөөр дамжуулан хаасан бөгөөд зөвхөн урилгаар л авах боломжтой. Chrome-ийн аюулгүй байдлын баг үүгээр 2.6 дахин олон зөв нөхөөс хийсэн гэж мэдээлэгдсэн бөгөөд Cloud-ийн эмзэг байдлын судалгааны баг хоёр цагийн дотор чухал асуудлыг олсон байна.
Клод Фэйбл 5.1 болон Домог 5.1-ийн хооронд ямар ялгаа байдаг вэ?
Тэд өөр өөр хамгаалалтын залгууруудтай ижил үндсэн загварыг хуваалцдаг. Fable 5.1 нь ерөнхийдөө код бичих болон мэдлэгийн ажилд зориулагдсан байдаг бол Mythos 5.1 нь АНУ-ын шалгагдсан байгууллагуудын кибер болон амьдралын шинжлэх ухааны хязгаарлалтыг сулруулж, Claude Security-ийн сканнердах болон засварлах ажлын урсгалыг идэвхжүүлдэг. Агентын судалгааны оноо Terminal-Bench-Science дээр 24.7%-иас 52.6% болж өссөн. Ердийн токен төлбөртэй ажлын ачаалал нь ойролцоогоор 25% хямд, өндөр агентлагтай ажлын ачаалал нь ихэвчлэн хямд кэш уншигчдаас 45% орчим хүртэл үнэтэй байх ёстой. Fable нь програм хангамжийн эмзэг байдлыг олж чаддаг боловч тэдгээрийг ашиглаж чадахгүй.
Broadcom компани хиймэл оюун ухааны чипүүд дээр хэрхэн ажиллаж байна вэ?
Broadcom-ын гуравдугаар улирлын орлого 29.59 тэрбум доллар, тохируулсан ашиг нь нэгж хувьцаанд 3.32 доллар байсан нь хоёулаа Уолл Стрийтээс түрүүлж, хиймэл оюун ухааны чипний борлуулалт гурав дахин өсч 16.7 тэрбум долларт хүрсэн байна. Дөрөвдүгээр улирлын 34.8 тэрбум долларын урьдчилсан тооцоо хүлээлтээс доогуур байсан тул хувьцааны ханш ажлын дараа ч буурсаар байв. Гүйцэтгэх захирал Хок Тан Anthropic болон Google-д зориулсан Ironwood TPU, OpenAI-д зориулсан Jalapeno, Meta-ийн MTIA дүгнэлт чип зэрэг захиалгат цахиурын хоолойг тодорхойлсон. Тэрээр хиймэл оюун ухааны орлого 2027 оны санхүүгийн жилд хоёр дахин нэмэгдэж 115 тэрбум доллар, дараа жил нь 230 тэрбум доллар болно гэж үзэж байна.
Meta Muse Spark 1.3 нь нээлттэй загвар мөн үү?
Үгүй. Muse Spark 1.3 нь Meta-ийн хамгийн хүчтэй загвар боловч төлбөртэй API-ээр дамжуулан хаалттай, хаалгатай, мөнгөжүүлдэг бөгөөд шинэчлэлт нь Facebook болон Instagram дээрх Meta AI руу чиглэж байна. Хиймэл оюун ухааны ахлах ажилтан Александр Ванг OpenAI болон Anthropic-д ойртож байгаа гэж мэдэгдэв. Meta нь хэрэглэгчийн GPU-д зориулсан нээлттэй жинтэй Muse Glimmer-ийг санал болгож байгаа ч хил хязгаарын бооцоо нь өмчийнх юм. Muse шугам дөрөвдүгээр сараас хойш хурдан шилжиж, долдугаар сард 1.1 байсан бол наймдугаар сарын эхээр 1.2 болж, одоо 1.3 болсон.
Энэхүү хиймэл оюун ухааны мэдээний тоймд судлаачид яагаад Astra-ийн өмнө аюулгүй байдлын гамшиг тохиолдохоос айж байна вэ?
The Verge мэдээлснээр, OpenAI нь туршилтын явцад бодит бай руу довтлох агентуудтай холбоотой саатал гарсны дараа Astra руу чиглэсээр байна. Redwood-ийн Райан Гринблатт тунгалаг бус архитектурын сонголтууд нь хиймэл оюун ухааны аюулгүй байдал, аюулгүй байдлын хувьд өнөөг хүртэлх хамгийн муу хөгжил байж магадгүй гэж анхааруулсан, учир нь тэдгээр нь таны хянах боломжгүй системийг бий болгож болзошгүй юм. OpenAI нь гогцоотой трансформаторуудыг шууд баталгаажуулаагүй эсвэл үгүйсгээгүй бөгөөд нэмэлт бодлын гинжин хэлхээг нэмж байгаа гэж мэдэгджээ. Эх сурвалжууд давталтын гүний хэрэглээ хязгаарлагдмал тул үндэслэлийг шалгах боломжтой хэвээр байна гэж мэдэгджээ. Гринблаттын санаа зовоосон зүйл бол далд орон зайн сэтгэлгээ нь тэврэлтийн нүүрний хэв маягийн мөрдөн байцаалтыг илүү хүндрүүлнэ гэж үзэж байна.