⚖️ Пентагоны хиймэл оюун ухааны хэрэглээний хязгаарлалтыг хориглохын тулд антропик шүүхэд нэхэмжлэл гаргав ↗
Anthropic компани хангамжийн сүлжээний эрсдэл гэж нэрлэгдсэнийхээ дараа Пентагонтой хийсэн тэмцлээ шүүхэд өгчээ. Тус компани энэхүү алхам нь бие даасан зэвсэг болон дотоодын хяналтын эргэн тойрон дахь хамгаалалтын хашлагыг сулруулахаас татгалзсаныхаа төлөө хууль бус хариу арга хэмжээ авсан гэж мэдэгдэж байгаа бөгөөд энэ нь энэхүү маргааныг хиймэл оюун ухааны бодлогын хамгийн хурцадмал цэгүүдийн нэг болгож байна. ( Ройтерс )
Засгийн газар "хууль ёсны аливаа хэрэглээ"-нд уян хатан байдлыг хүсч байгаа бол Anthropic нь хувийн лабораториудад хатуу аюулгүй байдлын хязгаарлалт тавихыг зөвшөөрөх ёстой гэж үзэж байна. Энэ нь хиймэл оюун ухааны компани цэргийн нөхцөл байдалд "үгүй" гэж хэлж чадах эсэхийг шалгах хамгийн тодорхой шалгууруудын нэг болсон. ( Ройтерс )
🧑💻 OpenAI болон Google-ийн ажилтнууд Пентагоны эсрэг Anthropic-ийн нэхэмжлэлийг дэмжиж байна ↗
Энэхүү шүүх ажиллагаа нь өрсөлдөгч лабораториудын дотроос ч мөн хурдан дэмжлэг авсан. OpenAI болон Google-ийн бараг 40 ажилтан Anthropic-ийг дэмжиж, хиймэл оюун ухааны аюулгүй байдлын улаан шугамын улмаас компаниудаас хариу арга хэмжээ авах нь олон нийтийн ашиг сонирхлыг бууруулдаг гэж маргасан. ( The Verge )
Тийм ээ, өрсөлдөгчид гэнэт л нэг талд орсон байна - ядаж л энэ тал дээр. Товч агуулга нь олон нийтийн хяналт болон найдваргүй бие даасан зэвсгийн талаар төвлөрсөн бөгөөд энэ нь бүхэл бүтэн үйл явдлыг Силикон хөндийн стандарт мэргэн бууч шиг биш, харин элсэн дээрх жинхэнэ салбарын шугам шиг санагдуулж байна... эсвэл магадгүй шаварт, магадгүй. ( The Verge )
🛡️ OpenAI нь хиймэл оюун ухааны агентуудаа хамгаалахын тулд Promptfoo-г худалдаж авлаа ↗
OpenAI компани томоохон хэлний загваруудыг сөрөг халдлагаас хамгаалахад чиглэсэн стартап болох Promptfoo-г худалдаж авч байгаагаа мэдэгдэв. Төлөвлөгөө ёсоор технологийгээ хиймэл оюун ухааны агентуудад зориулсан компанийн платформ болох OpenAI Frontier-д нэгтгэх юм. ( TechCrunch )
Энэ бол чухал алхам юм. Хүн бүр агентлаг хиймэл оюун ухаан хаа сайгүй илүү ихийг, хурдан хийхийг хүсдэг ч аюулгүй байдлын тал нь бага зэрэг эсвэл их хэмжээгээр хоцорч байна. Энэхүү хэлэлцээр нь OpenAI нь дараагийн томоохон уралдаан зөвхөн илүү ухаалаг агентуудын төлөө биш, харин илүү аюулгүй агентуудын төлөө гэж үзэж байгааг харуулж байна. ( TechCrunch )
🧪 Anthropic нь хиймэл оюун ухаанаар үүсгэгдсэн кодын урсгалыг шалгах код хянах хэрэгслийг гаргалаа ↗
Anthropic нь хиймэл оюун ухааны код бичих хэрэгслүүдээр үүсгэгдсэн татах хүсэлтүүдэд живж буй багуудад чиглэсэн Claude Code доторх Code Review-ийг гаргасан. Энэ нь кодыг сканнердах, логикийн асуудлуудыг тэмдэглэх, зэрэглэл тогтоох, GitHub дээр шууд сэтгэгдэл үлдээх зэрэг олон агентуудыг зэрэгцээ ашигладаг. ( TechCrunch )
Санал нь хангалттай энгийн - хиймэл оюун ухаан нь хүмүүсийн ухаалгаар хянаж чадахаас хурдан код үүсгэж байгаа тул одоо хиймэл оюун ухааныг хянаж үзэх хэрэгтэй болсон. Энэ нь бага зэрэг могой иддэг сүүл хэлбэртэй боловч практик юм. Anthropic нь үүнийг Клод Кодоос асар их хэмжээний код гаралтыг аль хэдийн харж буй байгууллагын хэрэглэгчидэд чиглэсэн гэж мэдэгджээ. ( TechCrunch )
💰 Nvidia-ийн дэмжлэгтэй Nscale компани шинэ санхүүжилтийн шатандаа 14.6 тэрбум долларын үнэлгээтэй байна ↗
Их Британийн хиймэл оюун ухааны дэд бүтцийн компани Nscale нь C цувралын үеэр 2 тэрбум доллар босгож, 14.6 тэрбум долларын үнэлгээтэй болжээ. Дэмжигчид нь Aker, 8090 Industries, Nvidia, Citadel, Dell, Jane Street зэрэг компаниуд байсан бөгөөд энэ нь нэлээд хүнд итгэлийн санал хураалт болж байна. ( Reuters )
Энэ нь чухал учир нь энэ нь өөр нэг загвар гаргах эсвэл чатботыг өөрчлөх биш юм. Энэ бол өсөлтийн гол хэсэг юм - тооцоолол, дэд бүтэц, хүчин чадал, хөшигний ард байгаа бүх хүнд машин механизм. Магадгүй тансаг биш байж болох ч одоо мөнгөний ихэнх хэсэг нь тэнд цугларч байна. ( Ройтерс )
🧠 Янн ЛеКуны AMI Labs компани дэлхийн загваруудыг бүтээхэд зориулж 1.03 тэрбум доллар босгожээ ↗
Янн ЛеКуны шинэ төсөл болох AMI Labs нь мөнгө босгохоос өмнөх 3.5 тэрбум долларын үнэлгээтэйгээр 1.03 тэрбум доллар босгосон. Тус компани "дэлхийн загварууд"-ыг хөөцөлдөж байгаа бөгөөд энэ нь голчлон хэлнээс бус, бодит байдлаас суралцах зорилготой хиймэл оюун ухааны системүүд юм. ( TechCrunch )
Энэ бол одоогийн LLM-д суурилсан зөвшилцөлд шууд философийн өөрчлөлт хийж байгаа бөгөөд бас тодорхой хэмжээгээр шулуун шударга хандлага юм. ЛеКун өнөөгийн хэлний загварууд биднийг хүний түвшний оюун ухаанд хүргэхгүй гэж олон жилийн турш маргаж ирсэн тул энэхүү нэмэгдэл нь уг маргааныг маш үнэтэй туршилт болгож байна. ( TechCrunch )
🇨🇳 Хятадын технологийн төвүүд аюулгүй байдлын сэрэмжлүүлгийг үл харгалзан OpenClaw хиймэл оюун ухааны агентийг сурталчилж байна ↗
Хувийн мэдээлэлд хандахтай холбоотой аюулгүй байдлын асуудалтай холбоотой ч гэсэн хурдацтай тархаж буй хиймэл оюун ухааны агент болох OpenClaw-ийг Хятадын хэд хэдэн орон нутгийн засаг захиргаа дэмжиж байна. Тиймээс албан ёсны уур амьсгал нь: тийм ээ, эрсдэлүүд байгаа - тийм ээ, ямар ч байсан үүнийг өргөжүүлье. ( Ройтерс )
Энэ хуваагдал бол түүх юм. Орон нутгийн төвүүд эдийн засгийн өсөлт болон экосистемийн эрч хүчийг хүсч байгаа бол зохицуулагчид мэдээлэл ил гарах талаар анхааруулж байна. Энэ нь одоо хиймэл оюун ухааны танил хэв маяг болсон - эхлээд гүйж, дараа нь хашлагаа цэгцлэх, эсвэл тэгж харагдаж байна. ( Ройтерс )
Түгээмэл асуултууд
Антропик яагаад хиймэл оюун ухааны хэрэглээний хязгаарлалтын талаар Пентагоныг шүүхэд өгч байгаа юм бэ?
Anthropic компанийн мэдээлснээр, Пентагон үүнийг нийлүүлэлтийн сүлжээний эрсдэл гэж нэрлэсэн бөгөөд тус компани бие даасан зэвсэг болон дотоодын хяналтад хамаарах өргөн хүрээтэй нөхцөлүүдийг татгалзсан байна. Энэ нь шүүхийн нэхэмжлэлийг зөвхөн нийлүүлэгчийн статусаас илүү зүйлтэй холбон тайлбарлаж байна. Энэ нь хиймэл оюун ухааны лаборатори нь аюулгүй байдлын хатуу хязгаарлалтыг баримталж, засгийн газрын ажилд өрсөлдөх чадвартай эсэхийг шалгаж байгаа бөгөөд торгууль хүлээхгүйгээр өрсөлдөж чадах эсэхийг шалгаж байна.
Энэхүү хиймэл оюун ухааны аюулгүй байдлын маргаанд OpenAI болон Google-ийн ажилтнууд яагаад Anthropic-ийг дэмжиж байгаа вэ?
Амикус товч нь өрсөлдөгч лабораторийн доторх олон хүн үүнийг зөвхөн нэг компани, нэг агентлагийн хоорондох тэмцэл биш, харин хиймэл оюун ухааны аюулгүй байдлын өмнөх жишээг тогтоосон асуудал гэж үзэж байгааг дохио өгдөг. Тэдний санаа зовоосон асуудал бол улаан шугамыг хадгалсаны төлөө борлуулагчийг шийтгэх нь өргөн хүрээний зах зээлийг хамгаалалтыг сулруулахад шахалт үзүүлж болзошгүй юм. Практикт энэ нь ирээдүйн батлан хамгаалах болон төрийн хэвшлийн хиймэл оюун ухааны гэрээг хэрхэн тохиролцохыг тодорхойлж болзошгүй юм.
Хүн ба Пентагоны хэрэг хиймэл оюун ухааны бодлого болон батлан хамгаалах гэрээний хувьд юуг өөрчилж чадах вэ?
Хэрэв Антропик технологи ялбал хиймэл оюун ухааны компаниуд засгийн газрын эмзэг орчинд борлуулалт хийхдээ ч хүлээн зөвшөөрөгдөхгүй хэрэглээг тодорхойлох илүү хүчтэй үндэслэлтэй байж магадгүй юм. Хэрэв ялагдвал агентлагууд нийлүүлэгчдээс илүү өргөн хүрээтэй "хууль ёсны хэрэглээ"-ний нөхцөлийг шаардах хөшүүрэг олж авах боломжтой. Аль ч тохиолдолд энэхүү маргаан нь худалдан авалтын хэл, эрсдэлийн хяналт, хамгаалалтын гэрээнд аюулгүй байдлын хамгаалалтыг хэрхэн тусгах зэрэгт нөлөөлөх магадлалтай.
OpenAI яагаад хиймэл оюун ухааны агентуудад зориулж Promptfoo-г худалдаж авсан бэ?
Promptfoo нь том хэлний загваруудыг өрсөлдөгч өдөөлт болон бусад аюулгүй байдлын сул талуудын эсрэг туршиж үздгээрээ алдартай. Ийм төрлийн хэрэгслийг OpenAI-ийн байгууллагын агентын платформд нэгтгэснээр тус компани аюулгүй байршуулалтыг нэмэлт ажил гэхээсээ илүү өрсөлдөөний давуу тал гэж үзэж байгааг харуулж байна. Хиймэл оюун ухааны агентууд илүү бодитой ажил хийх тусам уян хатан байдал болон зүй бус хэрэглээний туршилтыг үл тоомсорлоход илүү хэцүү болдог.
Багууд хиймэл оюун ухаанаар үүсгэгдсэн кодын урсгалыг хэрхэн илүү аюулгүй зохицуулах вэ?
Anthropic-ийн Claude Code доторх шинэ Code Review функц нь хиймэл оюун ухааны код бичих хэрэгслүүдийн үүсгэсэн татах хүсэлтүүдэд дарагдсан багуудад чиглэгдсэн. Энэ нь логик асуудлуудыг илрүүлэх, зэрэглэл тогтоох, GitHub дээр сэтгэгдэл үлдээх зэрэг олон агентуудыг зэрэгцээ ашигладаг. Ерөнхийдөө иймэрхүү хэрэгслүүд эзлэхүүнийг ангилахад тусалдаг боловч хүний тоймчид архитектур, контекст болон эцсийн баталгаажуулалтад чухал үүрэг гүйцэтгэдэг.
Яагаад хиймэл оюун ухааны дэд бүтцэд одоо ийм их хөрөнгө оруулалт хийж байна вэ?
Nscale-ийн хамгийн сүүлийн үеийн санхүүжилтийн тойрог нь хиймэл оюун ухааны салбар тооцоолол, дэд бүтэц, хүчин чадалд асар их хөрөнгө оруулалт хийсээр байгааг онцолж байна. Энэхүү зардал нь гял цал загвар гаргахаас бага харагдах боловч бусад бүх зүйлийг дэмждэг. Сургалт, байршуулалтын эрэлт хэрэгцээ өссөөр байх үед хүрз, хүрз зардаг компаниуд хамгийн том ялагчдын нэг болдог.
Дэлхийн загварууд гэж юу вэ, Янн ЛеКун яагаад тэдэнд мөрий тавьж байгаа вэ?
Дэлхийн загварууд нь хэлний өгөгдөлд тулгуурлахын оронд дэлхий ертөнц хэрхэн ажиллаж байгаагаас суралцах зорилготой хиймэл оюун ухааны системүүд юм. Энэ нь чухал юм, учир нь Янн ЛеКун хэлний загварууд дангаараа хүний түвшний оюун ухаанд хүрэх магадлал багатай гэж удаан хугацаанд маргаж ирсэн. AMI Labs нь энэ үзэл бодлыг хиймэл оюун ухааны дэвшилтэт судалгааны өөр зам дээрх томоохон арилжааны бооцоо болгон хувиргадаг.
Аюулгүй байдлын анхааруулгыг үл харгалзан Хятадын технологийн төвүүд яагаад OpenClaw-г дэмжиж байгаа вэ?
OpenClaw-ийн түүх нь хурдацтай хөгжиж буй технологийн зах зээлүүдийн доторх танил хуваагдлыг харуулж байна: орон нутгийн засаг захиргаа өсөлт, татаас, экосистемийн эрч хүчийг хүсч байгаа бол зохицуулагчид өгөгдлийн ил тод байдал, аюулгүй байдлын талаар санаа зовж байна. Анхааруулга үл харгалзан агентийг дэмжиж байгаа нь зарим газарт эдийн засгийн урамшуулал давамгайлж байгааг харуулж байна. Ажиглагчдын хувьд энэ нь нэвтрүүлэлт нь хяналтаас илүү хурдан явагддаг гэдгийг бас нэгэн сануулга юм.