🛡️ Их Британийн зохицуулагчид хамгийн сүүлийн үеийн хүний хиймэл оюун ухааны загварын эрсдэлийг үнэлэхээр яарч байна гэж FT мэдээлэв ↗
Их Британийн санхүүгийн хяналтын байгууллагууд Anthropic-ийн шинэ Mythos загвар нь чухал системүүдийн ноцтой сул талуудыг илчилж болзошгүй гэсэн болгоомжлолын дараа хурдацтай ажиллаж байгаа гэж мэдээлж байна. Хэлэлцээрт Английн банк, FCA, Сангийн яам, Үндэсний Кибер аюулгүй байдлын төв оролцож байгаа бөгөөд энэ нь нэг загварын урьдчилсан тоймд зориулсан хүчирхэг бүрэлдэхүүн юм.
Антропикийн хэлснээр уг нэвтрүүлэлт нь хатуу хязгаарлагдмал бөгөөд хамгаалалтын аюулгүй байдлын ажилд чиглэгдсэн гэж Mythos компани мэдэгдэж байгаа ч санаа зовоосон асуудал нь Mythos компани програм хангамжийн эмзэг байдлыг олохдоо ер бусын чадварлаг юм. Банкууд, даатгагчид болон биржүүд мэдээлэл авах төлөвтэй байгаа тул энэ нь одоо лабораторийн хов жив шиг биш, харин дэд бүтцийн бодлого шиг санагдаж байна.
🤖 HumanX бага хурал дээр хүн бүр Клодын тухай ярьж байсан ↗
Anthropic нь HumanX-ийн өнгө аясыг тодорхойлсон бололтой - энэ бол түүх байв. Хэлэлцүүлэг, борлуулагчдын чат, хонгилын яриа хөөрөөний үеэр Клод бизнесийн болон код бичих ажлын урсгалд хамгийн их эрэлттэй үлгэр дуурайл болсон хэвээр байв.
ChatGPT-ийн эргэн тойрон дахь харьцангуй нам гүм байдал онцгой анхаарал татаж байв. Энэ нийтлэл нь OpenAI нь цар хүрээ, мөнгөтэй хэвээр байгааг харуулж байгаа ч бага хурлын уур амьсгал нь тухайн үед илүү хурц бизнесийн нөлөө бүхий хэрэгсэл болох Клод руу чиглэж байв - эсвэл тийм юм шиг санагдаж байна.
📄 Anthropic-ийн Claude for Word нь Microsoft-ын програм хангамжийн эзэнт гүрний бас нэгэн сорилт юм ↗
Anthropic нь Claude for Word-ийн бета хувилбарыг гаргасан бөгөөд хөгжүүлэгчийн хэрэгсэл болгон хязгаарлагдмал байлгахын оронд өдөр тутмын оффисын програм хангамж руу илүү түлхэц болсон. Энэ нь дарж болох хэсгийн ишлэл бүхий баримт бичгийн талаарх асуултуудад хариулах, форматыг эвдэхгүйгээр сонгосон текстийг засах, хяналттай өөрчлөлтүүдийг зохицуулах боломжтой.
Зорилтот үзэгчид нь нэлээд тодорхой: баримт бичиг ихтэй багууд, ялангуяа хууль эрх зүй, санхүүгийн багуудтай. Энэ нь үүнийг зүгээр нэг функц нэмэхээс илүү болгож байгаа юм - энэ нь Microsoft-ын үндсэн талбай руу шууд түлхэж байгаа бөгөөд нэлээд зальтай алхам юм.
🌐 Хиймэл оюун ухаант роботууд вэбийг устгаж байгаа бөгөөд Антропик роботууд тэргүүлж байна ↗
Cloudflare-ийн өгөгдөлд хийсэн шинэ тойм нь хиймэл оюун ухааны компаниуд вэбээс буцаж ирснээсээ хамаагүй илүү ихийг гаргаж авч байгааг харуулж байна. Гол статистик нь мөлхөж буй хуудсуудын харьцаа буюу ботууд хэр олон удаа хуудсыг хусаж байгаа болон хэрэглэгчдийг хэр олон удаа буцааж илгээж байгаатай холбоотой бөгөөд Антропик нь ялангуяа муу үр дүнд хүрдэг.
Антропикийн харьцаа 8,800-1 гэж мэдээлэгдсэн бөгөөд OpenAI нь мөн өндөр боловч хамаагүй бага байна. Илүү өргөн хүрээтэй санаа нь хэцүү байдаг: хуучин вэб хэлэлцээр нь биднийг мөлхөж, дараа нь бидэнд урсгал илгээдэг байсан. Хиймэл оюун ухааны хариултын хөдөлгүүрүүд эхний хэсгийг хадгалж, хоёр дахь хэсгийг манан болгон шингэлдэг.
⚔️ АНУ, Хятад, Орос болон бусад улсууд хиймэл оюун ухаанаар дэмжигдсэн бие даасан зэвсэг, батлан хамгаалах системийг бүтээхээр яарч байгаатай холбогдуулан дэлхийн хэмжээнд хиймэл оюун ухааны зэвсгийн уралдаан нэмэгдэж байгааг харах нь ↗
Цэргийн хиймэл оюун ухааны талаарх хамгийн сүүлийн үеийн мэдээллүүд нь гял цал үзүүлбэрүүдийн тухай биш, харин стратегийн хурдатгалын тухай юм. Том гүрнүүд бие даасан болон хиймэл оюун ухааны тусламжтайгаар батлан хамгаалах системийг нэгэн зэрэг нэвтрүүлж байгаа нь бүхэл бүтэн үйл явдлыг хүн бүр таягийг шүүрч аваад тоормосоо мартсан буухиа уралдаан мэт сэтгэгдэл төрүүлж байна.
Энэ нь хяналт, хурцадмал байдал, хариуцлага гэсэн ердийн асуултуудыг бий болгож байгаа ч одоо илүү яаралтай байна. Хиймэл оюун ухааныг бай болгох, хянах, тулааны талбарын шийдвэр гаргалтад илүү гүнзгий нэвтрүүлсний дараа "туршилтын" гэдэг нь аль хэдийн хөдөлгөөнд орсон зүйл дээрх цаасан шошго шиг сонсогдож эхэлдэг.
🏭 Японы SoftBank компани дотоодын хиймэл оюун ухааныг хөгжүүлэх нэгжээ нээлээ ↗
SoftBank нь Sony, Honda болон бусад Японы компаниудтай хамтран "физик хиймэл оюун ухаан"-д чиглэсэн шинэ хиймэл оюун ухааны төсөл байгуулжээ. Энэ нь зөвхөн мессежээр хариу өгөхөөс гадна машин болон роботуудыг удирдах зориулалттай загварууд юм. Энэ бол ердийн чатбот тэмцээнээс өөр зам бөгөөд магадгүй илүү сонирхолтой нь юм.
Энэхүү зорилго нь асар том бөгөөд маш том суурь загвар, үйлдвэрлэлийн зориулалтаар ашиглах урт замд чиглэсэн гэж мэдээлж байна. Энэ нь үндэсний технологийн стратеги, сарны зураг авалт, удирдах зөвлөлийн хуралтай механик аниме юм.
Түгээмэл асуултууд
Их Британийн зохицуулагчид яагаад Anthropic-ийн Mythos загварыг анхааралтай ажиглаж байгаа вэ?
Их Британийн эрх баригчид Mythos-ийг болзошгүй эрсдэл гэж үзэж байгаа бөгөөд учир нь энэ нь програм хангамжийн эмзэг байдлыг олоход ер бусын чадвартай байж магадгүй юм. Хэлэлцүүлэгт Английн банк, FCA, Сангийн яам, Үндэсний кибер аюулгүй байдлын төв оролцож байгаа гэж мэдээлж байна. Байгууллагуудын энэхүү хослол нь чухал системүүд, ялангуяа санхүү, дэд бүтцийн салбарт үзүүлэх болзошгүй нөлөөллийн талаар санаа зовниж байгааг илтгэж байна.
Антропик Мифос загварыг ердийн хиймэл оюун ухааны хувилбараас юугаараа ялгаатай вэ?
Санаа зовоож буй зүйл нь зөвхөн шинэ загвар төдийгүй програм хангамжийн сул талыг илрүүлэхтэй холбоотой хамгаалалтын аюулгүй байдлын ажилд онцгой чадвартай харагдаж байгаа явдал юм. Anthropic-ийн мэдээлснээр хандалтыг хатуу хязгаарласан нь өргөн хэрэглээний хувилбараас илүү нэвтрүүлэлтийг илүү болгоомжтой хийж байгааг харуулж байна. Практикт энэ нь стандарт чатбот шинэчлэлтээс илүү хяналттай аюулгүй байдлын чадавхитай төстэй мэт санагдаж байна.
Клод яагаад HumanX бага хурал дээр тийм их анхаарал татаж байсан бэ?
Нийтлэлд дурдсанаар, Клод нь бизнесийн болон код бичих ажлын урсгалын хүчтэй сонголт болох самбар, борлуулагчдын яриа, албан бус хэлэлцүүлэгт олон удаа гарч ирсэн. Энэхүү нийтлэлд Anthropic нь тухайн арга хэмжээнд байгууллагын хэрэглэгчдийн дунд мэдэгдэхүйц эрч хүч авч байгааг харуулж байна. Мөн OpenAI нь томоохон цар хүрээ, нөөцтэй хэвээр байгаа ч ChatGPT дээр HumanX-ийн талаарх уур амьсгал илүү нам гүм байсан гэж үзэж байна.
Клод фор Word нь баримт бичиг ихтэй багуудад үнэндээ юу хийдэг вэ?
Энд тайлбарласан бета хувилбар нь зүгээр л бие даасан текст үүсгэхийн оронд баримт бичгийн дотор ажиллахаар бүтээгдсэн. Энэ нь хэсгийн ишлэл бүхий баримт бичгийн талаарх асуултуудад хариулах, форматыг тасалдуулахгүйгээр сонгосон хэсгүүдийг засах, мөн хяналттай өөрчлөлтүүдийг зохицуулах боломжтой. Энэ нь хууль эрх зүй, санхүү болон бусад багуудад онцгой хамааралтай бөгөөд эдгээр багуудад бүдүүлэг ноорог бичихээс илүүтэй сайтар хянаж үзэх шаардлагатай байдаг.
Мөлхөж орох харьцаа нь хиймэл оюун ухаант ботууд болон вэбийн талаар юу хэлж байна вэ?
Энэхүү өгүүлэлд энэхүү харьцааг хиймэл оюун ухааны компаниуд вэбсайтуудыг хэр их мөлхдөг, хэрэглэгчдийг хэр олон удаа буцааж илгээдэгтэй харьцуулах арга болгон танилцуулж байна. Энэхүү хүрээнд маш өндөр харьцаа нь буцах урсгал багатай олборлолтыг харуулж байна. Anthropic-ийг энэ хэмжүүрээр ялангуяа муу гүйцэтгэлтэй гэж тодорхойлсон бөгөөд энэ нь хиймэл оюун ухааны хариултын хөдөлгүүрүүд лавлагааны хариуд индексжүүлэлтийн хуучин вэб солилцоог сулруулж болзошгүй гэсэн өргөн хүрээтэй шүүмжлэлийг улам хурцатгаж байна.
Хүмүүс яагаад хиймэл оюун ухааны хөгжлийг бие даасан зэвсэг болон физик хиймэл оюун ухаантай холбож байгаа вэ?
Уг нийтлэлд хоёр холбоотой чиг хандлагыг онцолсон: засгийн газрууд хиймэл оюун ухаанаар дэмжигдсэн батлан хамгаалах системийг хурдасгаж байгаа, мөн машин, роботуудыг хянах зориулалттай SoftBank-ийн дэмжлэгтэй загварууд гэх мэт компаниуд. Эдгээр нь хамтдаа хиймэл оюун ухаан чат, хайлтаас хальж, мэдэрч, шийдвэр гаргаж, үйлдэл хийж чаддаг физик систем рүү шилжиж байгааг харуулж байна. Энэ нь хяналт, хариуцлага, үйлдвэрлэлийн хэрэглээ, эдгээр системүүд туршилтын системээс ашиглалтын систем рүү хэр хурдан шилжиж байгаа талаар илүү том асуултуудыг бий болгож байна.