Ангиллын сүлжээнүүдийн хиймэл оюун ухааны гэрээнүүд ↗
Цэргийн яам нь хил хязгаарын хиймэл оюун ухааныг ангиллын сүлжээнд нэвтрүүлэх гэрээнд SpaceX, OpenAI, Google, NVIDIA, Reflection, Microsoft, Amazon Web Services, Oracle компаниудтай гарын үсэг зурсан.
Энэ бол чанга дохио юм: цэргийн хиймэл оюун ухаан туршилт, үзүүлэнгээс аюулгүй үйлдлийн систем рүү шилжиж байна. Үнэ цэнэтэй, тийм ээ. Мөн серверийн тавиур дахь аянга цахилгаан мэт.
Хиймэл оюун ухааны жүжигчид болон зохиолчид Оскарын шагналд нэр дэвших эрхгүй болно ↗
Академи жүжиглэлт болон зохиол бичих шагналуудыг хүмүүст олгодог болохыг тодруулсан. Хиймэл оюун ухааны хэрэгслүүд кино бүтээх үйл явцын нэг хэсэг хэвээр байж болох ч хиймэл жүжигчид болон бүрэн хиймэл оюун ухаанаар зохиогдсон кино зохиолууд тэнцэхгүй.
Энэ бол цэвэр шугам, эсвэл ядаж л хиймэл оюун ухаан кино хийхэд тусалж чадна гэсэн үг юм шиг харагдаж байна, гэхдээ энэ нь хөшөөг бүтээж чадахгүй байна. Холливуд ямар нэгэн байдлаар хил хязгаарыг олсон.
Мета компани хүн дүрст хиймэл оюун ухааны зорилгоо хэрэгжүүлэхийн тулд роботын стартапыг худалдаж авлаа ↗
Мета нь хүн дүрст роботуудад хүний зан авирыг ойлгох, урьдчилан таамаглах, дасан зохицоход нь туслах загварууд дээр ажилладаг стартап компани болох Assured Robot Intelligence-ийг худалдаж авсан.
Баг нь Метагийн Супер оюун ухааны лабораторид нэгдэж байна. Гэрийн ажлын өнцөг нь хангалттай ээлтэй сонсогдож байгаа ч ерөнхийдөө тоглоом тодорхой байна: Мета зүгээр л хайрцагт эелдэгээр ярилцах биш, харин физик ертөнцөд ажиллаж чадах хиймэл оюун ухааныг хүсч байна.
Майкрософт хуульчдыг Word баримт бичигт шинэ хиймэл оюун ухааны агентдаа итгэхийг хүсч байна ↗
Майкрософт нь гэрээний хяналт, баримт бичгийн засвар, хэлэлцээрийн түүх, хууль эрх зүйн эрсдэлийн шинжилгээ хийх зорилготой Word дотор Хууль эрх зүйн төлөөлөгч ажиллуулж байна.
Сонирхолтой нь энэ нь цүнх барьсан чатбот шиг рифф хийхээс илүүтэй бүтэцлэгдсэн хууль эрх зүйн ажлын урсгалыг дагадаг явдал юм. Үнэхээр Майкрософт - агентыг ажил аль хэдийн явагдаж байгаа газарт байрлуулж, хүснэгттэй зэргэлдээх хүмүүсийг удаанаар толгой дохих боломжийг олгодог.
200,000 MCP сервер нь Anthropic-ийн функц гэж нэрлэдэг команд гүйцэтгэх эрсдэлийг илчилдэг ↗
Аюулгүй байдлын тайланд олон MCP серверүүд STDIO-ийн зан төлөвтэй холбоотой тушаал гүйцэтгэх эрсдэлд өртөж болзошгүйг анхааруулсан. Зарим үйлдвэрлэгчид тус тусад нь асуудлыг зассан боловч өргөн хүрээтэй асуудал хэвээр байна.
Хамгийн эвгүй хэсэг нь хүрээ юм: зарим нь энэ зан үйлийг зориулалтын дагуу гэж үздэг бол судлаачид итгэлцлийн хил хязгаарыг буруу зохицуулахад хэтэрхий амархан гэж үзэж байна. Энэ нь хажуугийн хаалгыг онгойлгоогүй орхиод үүнийг архитектур гэж нэрлэж байгаа юм шиг санагдаж байна.
Replit-ийн Амжад Масад Cursor-ын хэлэлцээр, Apple-тай тэмцэх, яагаад зарахгүй байх талаар ↗
Replit-ийн гүйцэтгэх захирал хиймэл оюун ухааны код бичих платформ нь орлогын огцом өсөлтийг ажиглаж байгаа бөгөөд тус компани өөрийгөө зүгээр л код бичих туслахаас илүү гэж танилцуулж байгааг хэлэв.
Үндсэндээ мессеж нь: Хиймэл оюун ухааны код бичих зах зээл хөөсөрсөн гээд Replit-ийг залгих шаардлагагүй. Энэ нь санаанууд зоримог, ширүүн, брэндийн хувьд маш сайн хэрэгждэг аппликейшн болж хувирдаг газар байхыг хүсдэг.
Түгээмэл асуултууд
Цэргийн хиймэл оюун ухааны хувьд нууц сүлжээний хиймэл оюун ухааны гэрээнүүд юу гэсэн үг вэ?
Энэхүү хэлэлцээрүүд нь хилийн хиймэл оюун ухаан нь туршилт, үзүүлэнгүүдээр хязгаарлагдахын оронд аюулгүй ажиллагааны хэрэглээнд ойртож байгааг харуулж байна. SpaceX, OpenAI, Google, NVIDIA, Microsoft, AWS, Oracle зэрэг компаниудыг оролцуулснаар Дайны яам ноцтой дэд бүтцийн зорилгын дохио өгч байна. Гол асуудал нь эдгээр системийг ангиллын орчинд хэрхэн аюулгүй байрлуулж байгаа явдал юм.
Хиймэл оюун ухааны жүжигчид болон хиймэл оюун ухааны зохиолчид яагаад Оскарын шагналд нэр дэвших эрхгүй вэ?
Академи жүжиглэлт болон зохиол бичих шагналууд нь хүн бүтээгчдэд зориулагдсан болохыг тодруулсан. Хиймэл оюун ухааны хэрэгслийг кино бүтээх үйл явцын нэг хэсэг болгон ашиглаж болох ч хиймэл жүжигчид болон бүрэн хиймэл оюун ухаанаар зохиогдсон кино зохиолууд эдгээр шагналд хамрагдах боломжгүй. Практикт энэ нь хиймэл оюун ухааны тусламжтайгаар бүтээгдэх болон хиймэл оюун ухаан бүтээлчээр хүлээн зөвшөөрөгдөх хоёрын хооронд тодорхой хил хязгаарыг тогтоож өгдөг.
Мета яагаад робот техникийн стартап компанийг худалдаж авсан бэ?
Мета компани хүн дүрст хиймэл оюун ухааны зорилгоо дэмжих зорилгоор Assured Robot Intelligence компанийг худалдан авсан. Энэхүү стартап нь роботуудад хүний зан авирыг ойлгох, урьдчилан таамаглах, дасан зохицоход нь туслах загварууд дээр ажилладаг. Энэхүү худалдан авалт нь зөвхөн чат эсвэл програм хангамжийн интерфэйсээр хариу үйлдэл үзүүлэхийн оронд физик ертөнцөд ажиллах боломжтой хиймэл оюун ухааны системүүдэд чиглэсэн Мета компанийн өргөн хүрээтэй түлхэцтэй нийцэж байна.
Microsoft-ын хууль ёсны төлөөлөгч Word дээр гэрээний хяналтыг хэрхэн өөрчилж болох вэ?
Microsoft-ын Хууль эрх зүйн агент нь Word дотор ажиллахаар бүтээгдсэн бөгөөд олон хуульчид баримт бичгийг хянаж, засварладаг. Энэ нь гэрээний хяналт, хэлэлцээрийн түүх, засвар, эрсдэлийн шинжилгээ зэрэг бүтэцлэгдсэн хууль эрх зүйн ажлын урсгалд чиглэгддэг. Практик давуу тал нь хиймэл оюун ухааны тусламжийг одоо байгаа хууль эрх зүйн баримт бичгийн үйл явцтай ойр байлгахын зэрэгцээ багаж хэрэгслийг солих ажлыг багасгаж чадна.
MCP серверийн команд гүйцэтгэх аюулгүй байдлын асуудал юу вэ?
Санаа зовоож буй зүйл бол олон MCP серверүүд STDIO-ийн зан төлөвтэй холбоотой команд гүйцэтгэх эрсдэлийг илрүүлж болзошгүй юм. Зарим үйлдвэрлэгчид тодорхой асуудлуудыг зассан боловч илүү өргөн хүрээтэй санаа зовоосон асуудал нь итгэлцлийн хил хязгаар тодорхойгүй байна. Олон дамжуулах хоолойд хөгжүүлэгчид системийг байгаагаас нь илүү аюулгүй гэж үзвэл техникийн хувьд "зорилготой" зан төлөв эрсдэлтэй хэвээр байж болно.
Replit яагаад өөрийгөө зүгээр нэг хиймэл оюун ухааны код бичих туслахаас илүү гэж тодорхойлж байгаа вэ?
Replit нь зөвхөн код бичихэд тусалдаг хэрэгсэл биш, санаагаа байршуулсан апп болгон хувиргах бүрэн хэмжээний платформ гэж өөрийгөө тодорхойлж байгаа бололтой. Тус компанийн гүйцэтгэх захирал нь хиймэл оюун ухааны кодчилолын зах зээл дээр орлогын хүчтэй өсөлт, бие даасан байдлыг онцолсон. Гол санаа нь Replit бүтээхээс байршуулах хүртэлх ажлын урсгалыг илүү их эзэмшихийг хүсч байгаа явдал юм.