Антропикийн гүйцэтгэх захирал хиймэл оюун ухааны хөгжлийг удаашруулах төлөвлөгөөгөө танилцуулав
Дарио Амодей салбараас ... удаашруулахыг хүссэн. Зогсоох биш. Хурд. Урт эссэ, гурван алхам, мөн рекурсив өөрийгөө сайжруулах нь насанд хүрэгчдийн шалгаж чадахаас илүү хурдан болж байгааг анхааруулсан.
Антропик барилга доторх үнэлгээчдийг нэг талын урилгаар урьж байна - тэмдэг, ширээ, зөөврийн компьютер, мөн PR шүүлтүүргүйгээр үр дүнг нийтлэх эрх. Дараа нь тэр ардчилсан лабораториуд аюулгүй байдлын стандартыг зохицуулахыг хүсч байна. Дараа нь ямар нэгэн байдлаар авторитар засгийн газруудтай тохиролцоо хийх хэрэгтэй. Цаасан дээр амархан. Бусад газар хаа сайгүй хэцүү.
Тэрээр хиймэл оюун ухаан гайхамшиг байж болно гэж хэлсээр байна. Түүнчлэн илүү чадварлаг, буруу байрлалтай сүрэг нь байнгын ботнет ашиглан интернетийг эзэлж, хэдэн зуун тэрбум долларын хохирол учруулж болзошгүй гэж тэр хэлэв. Энэ хоёр өгүүлбэр зэрэгцэн оршиж байгаа ч хоорондоо нийцэхгүй байна.
Өө - бас тэр аюулгүй байдлын яриа хэлэлцээ нь өөрөө хууль эрх зүйн асуудал биш байхын тулд монополийн эсрэг нарийн чөлөөлөлт хүсч байна. Тоормос нь бичиг цаасны ажилтай хамт ирдэг. Мэдээж хэрэг тийм.
Сэм Алтман OpenAI энэ жил олон нийтэд нээлттэй болохгүй гэдгийг баталж, хиймэл оюун ухааны аюулгүй байдлын асуудлыг харгалзан үзвэл IPO хийх нь "буруу цаг үед" болно гэж хэлэв
Алтман онцгой ярилцлагад суугаад жагсаалтын хуанлийг устгасан. Одоо IPO хийх нь "буруу зөвлөгөө" болно гэж тэр хэлэв. Аюулгүй байдлын ажил хийгдээгүй байна. Зохицуулалт хийгдээгүй байна. Нийгэм бэлэн биш байна. Тэд түүнийг шахахад энэ жил болоогүй.
Банкны эзэд аль хэдийн эргэлдэж байсан. Нууц мэдээлэл байгаа. Одоо Гүйцэтгэх захирал эхлээд хийх зүйл их байгааг хэлж байна, үүнд салбар болон засгийн газрууд хэрхэн хамтран ажилладагийг олж мэдэх зэрэг орно. Хүлээх нь түүнд бараг л тайвширсан мэт санагдав.
Тэрээр мөн хүний хяналтаас гадуур хиймэл оюун ухааныг бүтээх нь "бүрэн боломжтой" гэж хэлсэн бөгөөд хэрэв энэ зам байвал сургалтаа түр зогсооно гэж амласан. Зоригтой. Бас тохиромжтой байж магадгүй. Хоёулаа байж магадгүй. Ашгийн бус/ашгийн төлөөх гэсэн орооцолдол нь хувьцаа эзэмшигчдийн ашиг сонирхолд нийцэхгүй дуудлага хийх боломжтой байхын тулд байдаг гэж тэр маргасан. Энэ өгүүлбэр бодит танилцуулгатай холбоотой эсэхийг бид харах болно.
OpenAI-ийн Сэм Алтман аюулгүй байдлын эрсдэлийг шийдвэрлэхийн тулд бусад хиймэл оюун ухааны компаниудтай гэрээ байгуулах талаар саналаа илэрхийлэв
Адилхан ярилцлага, өөр гарчиг, энэ бол шивнээ л байна. Амодей, Маск, Демис Хассабис нартай хамт суух нь дараагийн байгалийн алхам юм. Алтман: тэр үүнийг болно гэж бодож байна. Тэр хувийн яриагаа урьдчилан зарлахгүй. Дараа нь тэр үндсэндээ урьдчилан зарласан.
Хоёр оронтой тоогоор хэмжигдэх сүйрлийн эрсдэл хүлээн зөвшөөрөгдөхгүй гэж тэр хэлэв. Одоогоор худалдаанд гараагүй байгаа загварууд аль хэдийн маш чадвартай тул илүү сайн хяналтгүйгээр цааш түлхэх нь болгоомжгүй мэт санагдаж байна. Жинхэнэ гэрээ болон болгоомжтой алдагдсан уур амьсгал гаднаасаа адилхан харагдаж болно.
Ажилтнууд үүнийг дотроо аль хэдийн сонссон байсан. Олон нийтийн өмнө манантай хэвээр байна. Хэрэв өрөө ийм зүйл тохиолдвол сайн. Хэрэв тийм зүйл тохиолдохгүй бол үнийн санал ажилласан хэвээр байна.
Сэм Алтман Дарио Амодейгийн удаашруулах уриалгыг дэмжиж, OpenAI ч мөн адил хийнэ гэж мэдэгдэв
Эссег бичсэнээс хойш хэдэн цагийн дараа Алтман OpenAI нь суулгагдсан үнэлгээчийн амлалттай нийцэх болно гэж нийтэлжээ. Ажилтан шиг хандалт. Удахгүй хуваалцах болно. Маск гурван үг бичсэн: "Дарио зөв." Гурван өрсөлдөгч Гүйцэтгэх захирал. Нэг уриа. Амралтын өдрүүдийн тав тухгүй эрч хүч.
Зохицуулалт болон театр хамтдаа аялах боломжтой. Амодейгийн төлөвлөгөөний эхний алхамд одоо хамгийн том хоёр лаборатори олон нийтийн өмнө толгой дохин ажиллаж байна. Тэврэх царай - тийм ээ, тэр тэврэх царай - үнэлгээний хөтөлбөрт нэгдэхийг хүсч, Нээлттэй уялдаа холбооны санаачилга гэж нэрлэгддэг зүйлийг эхлүүлсэн. Хакердуулсан хүмүүсээс ил тод байдал. Яруу найраг, эсвэл шовх үзүүртэй.
Европт АНУ маягийн чөлөөлөлтийг хүсэх хүн байхгүй. Брюссель хувь хүний чөлөөлөлтийг аль эртнээс больсон. Тиймээс гар барих нь Америк маягийнх. Газрын зургийн үлдсэн хэсэг нь... мөрөө хавчиж байна.
OpenAI зүгээр л ялахыг хүсдэг
Математикчид амралтын өдрүүдээр ярилцлага хийсний дараа баярын уур амьсгалд орохгүй байна. OpenAI-ийн Навье-Стокс спринт - ойролцоогоор арван мянган агент, хэдэн арван сая долларын тооцоолол, наян найман цаг - талбай дотроосоо цом хайж байгаа мэт харагдаж байна. Математикчид ойлголт хүсч байна. Лаборатори нь ялахыг хүсч байна гэж тэд хэлсээр байна.
Тристан Бакмастер тэдэнд OpenAI нь Антропиктой холбоотой хамтран ажиллагчаа халах тохиолдолд хязгааргүй тооцоолол болон ганцаарчилсан зохиогчийн эрх санал болгосон гэж хэлсэн. Тэр үүнийг хахууль гэж нэрлэсэн. Тэр үгүй гэж хариулсан. OpenAI нь түүний Codex-ийн хүсэлтүүд системд нөлөөлөх боломжгүй байсан гэж эрс шийдэмгий хэлсэн. Тэр итгэлгүй байна. Андреас Том ChatGPT нь түүний бүтээлийн талаарх чатууд нь дараа нь түүн дээр бүтээсэн загварыг тэжээсэн эсэхийг гайхсаар байна. Зөвхөн компани л мэдэх болно. Тэр тэднийг ч мэдэхгүй гэж сэжиглэж байна.
Тэгээд гол санаа нь: OpenAI нь Мянганы шагналын өөр нэг асуудал дээр аль хэдийн мэдэгдэхүйц ахиц дэвшил гаргасан гэж мэдэгдэв. Аль нь нэргүй хэвээр байна. Клэй ямартай ч олон нийтийн хүлээн зөвшөөрөх цонх урт байх шаардлагатай хэвээр байна. Тиймээс хэн ч хараахан "ялаагүй" байна. Тэд дараагийнх нь төлөө уралдаж байна. Хөөрхөн юм.
Түгээмэл асуултууд
Anthropic-ийн гүйцэтгэх захирал Дарио Амодей хиймэл оюун ухааны хөгжлийг хурдасгах төлөвлөгөө юу вэ?
Амодей салбарыг удаашруулахыг хүссэн урт эссэ нийтэлжээ. Учир нь рекурсив өөрийгөө сайжруулах нь аудиторуудын хурдаас хурдан хөгжиж байна. Эхний алхам бол нэг талын үнэлгээчдийг Anthropic-д урьж, тэмдэг, ширээ, зөөврийн компьютер, PR шүүлтүүргүйгээр үр дүнг нийтлэх эрхийг олгох явдал юм. Дараа нь тэрээр ардчилсан лабораториуд аюулгүй байдлын стандартыг уялдуулж, эцэст нь авторитар засгийн газруудтай ямар нэгэн хэлбэрээр тохиролцохыг хүсч байна. Тэрээр мөн монополийн эсрэг нарийн чөлөөлөлтийг хүсч байгаа тул аюулгүй байдлын хэлэлцээрүүд нь өөрөө хууль эрх зүйн асуудал биш юм.
Сэм Алтман яагаад OpenAI энэ жил IPO хийхгүй гэж хэлсэн бэ?
Алтман онцгой ярилцлагадаа аюулгүй байдлын ажил, зохицуулалт, нийгмийн бэлэн байдал дуусаагүй байгаа тул IPO хийх нь одоогоор буруу зөвлөгөө болно гэж хэлсэн. Банкирууд эргэлдэж, нууц мэдээлэл байгаа ч гэсэн энэ жил хийхгүй гэж шаардсан ч тэрээр баталсан. Тэрээр ашгийн бус/ашгийн төлөөх бүтэц нь OpenAI нь хувьцаа эзэмшигчдийн ашиг сонирхолд нийцэхгүй дуудлага хийх боломжтой гэж үзсэн. Тэрээр мөн хүний хяналтаас гадуур хиймэл оюун ухааныг бий болгох нь гарцаагүй боломжтой гэж хэлээд, хэрэв энэ зам бол сургалтаа түр зогсооно гэж амласан.
Алтман бусад хиймэл оюун ухааны лабораториудтай аюулгүй байдлын гэрээ байгуулсан гэж цухуйлгасан уу?
Мөн ярилцлагадаа Алтман Амодей, Маск, Демис Хассабис зэрэг үе тэнгийнхэнтэйгээ хэлэлцээр хийнэ гэж бодож байгаагаа хэлээд хувийн хэлэлцээрийг урьдчилан зарлахаас татгалзжээ. Тэрээр хоёр оронтой тоогоор хэмжигдэх сүйрлийн эрсдэлийг хүлээн зөвшөөрөх боломжгүй бөгөөд одоог хүртэл худалдаанд гараагүй байгаа загварууд аль хэдийн маш чадвартай тул илүү сайн хяналтгүйгээр цааш түлхэх нь болгоомжгүй мэт санагдаж байна гэж үзэж байна. Ажилтнууд үүнийг дотооддоо аль хэдийн сонссон тул олон нийтийн санал бодол нь дууссан гэрээг баталгаажуулахын оронд зохицуулалтыг урьдчилан харж магадгүй юм.
OpenAI нь Anthropic-ийн суулгагдсан үнэлгээчийн амлалттай нийцэх үү?
Амодейгийн эссегээс хойш хэдэн цагийн дараа Алтман OpenAI нь суулгагдсан үнэлгээчийн амлалтыг ажилтан шиг хандалт болон удахгүй илүү дэлгэрэнгүй мэдээлэлтэй уялдуулна гэж нийтэлжээ. Элон Маск Дариогийн зөв гэж бичиж, өрсөлдөгч гурван гүйцэтгэх захирлыг ижил төстэй уриа лоозон дээр тавьсан. Hugging Face нь үнэлгээчийн хөтөлбөрт нэгдэхийг хүсч, Нээлттэй Уялдаа холбооны Санаачилгыг эхлүүлсэн. Европ нь Амодейгийн гаргасан АНУ-ын хэв маягийн монополийн эсрэг чөлөөлөлтийг санал болгож чадахгүй тул одоогоор голчлон Америкийнх юм.
Математикчид яагаад OpenAI-ийн Navier-Stokes спринтийг шүүмжилж байгаа вэ?
Математикчид OpenAI-ийн ойролцоогоор арван мянган агент, наян найман цагийн Navier-Stokes гүйлтийг ойлголтоос илүү ялахыг чухалчилдаг шагналын ан гэж тодорхойлсон. Тристан Бакмастер хэлэхдээ, OpenAI нь Антропиктой холбоотой хамтран ажиллагчаа хаявал хязгааргүй тооцоолол болон ганцаараа зохиох эрх санал болгодог гэжээ; тэр үүнийг хахууль гэж нэрлээд татгалзсан. OpenAI түүний Codex-ийн хүсэлтүүд системд нөлөөлөх боломжгүй байсан гэж хэлсэн ч тэр итгэлгүй хэвээр байна. Андреас Том ChatGPT нь түүний бүтээлийн талаар дараагийн загварын дэвшлийг тэжээсэн эсэхийг одоо хүртэл шаардаж байна.
OpenAI Мянганы шагналын өөр нэг асуудалд ахиц дэвшил гаргасан гэж мэдэгдэв үү?
OpenAI нь Мянганы шагналын өөр нэг асуудлаар аль хэдийн мэдэгдэхүйц ахиц дэвшил гаргасан гэж мэдэгдэж байгаа ч аль нь болохыг нэрлэхгүй байна. Клэй Математикийн Институт нь олон нийтийн хүлээн зөвшөөрөх хугацааг урт хугацаанд шаарддаг тул хэн ч албан ёсоор ялаагүй байна. Талбайн дотор энэ нууцлал болон өмнөх Навье-Стокс уралдаан нь лабораториуд дараагийн цомыг аль хэдийн хурдан авах гэж байгааг харуулж байна. Verge-ийн ярилцлагад математикчид ойлголт хүсч байгаа бол OpenAI ялахыг хүсч байгаа тул хурцадмал байдлыг дүрсэлсэн байна.