Khuree
Anthropic-ийн судлаач Jacob Coxon ажлаасаа гарч, OpenAI болон Anthropic компаниуд супер оюун ухаан бүтээхийн төлөө уралдаж, хүмүүсийн амьдралаар мөрийцөж байна гэж шүүмжилжээ.
Есдүгээр сарын 9-нд тэрээр X дээр долоон бичлэгээс бүрдсэн урт нийтлэл оруулжээ. Түүний хэлснээр:
- Тэр сүүлийн гурван жил OpenAI болон Anthropic хоёуланд нь AI загварын үндсэн сургалтын судалгаа хийсэн. Аль ч компани хангалттай хариуцлагатай ажиллаж байна гэж бодохгүй байгаагаа хэлжээ.
- Удахгүй хүний чадвараас давсан системүүд гарч ирнэ. Тэд бараг ямар ч системд халдаж, аль ч салбарыг нэг шөнийн дотор өөрчилж, бодит эрх мэдэл, нөөц боломжийг өөртөө олж авч чадна.
- AI бүтээж байгаа хүмүүс энэ технологи арван жилийн дараа гэхэд бид бүгдийг үхэлд хүргэж ч магадгүй гэж үнэхээр боддог. Хэвлэлд ярихдаа үгээ зөөллөдөг ч өөрсдийн яриандаа айдсаа илэрхийлдэг.
- OpenAI-д олон хүн эрсдэлийн хэмжээг бүрэн ухамсарлаагүй хэвээр. Anthropic-д эрсдэлийг сайн ойлгодог ч хамгийн түрүүнд хүрэх уралдаанаас гарч чадахгүй байна.
- Энэ уралдааныг хүлээн зөвшөөрч, "эцсийн шат" руу орох эсэхийг хувийн компанийн Slack дотор хэдхэн хүн шийдэх ёсгүй.
- Компаниуд хурдаа тохиролцох боломж бий, гэхдээ загварууд улам чадвартай болохыг түр хугацаанд хориглох зэрэг өндөр өртөгтэй арга хэмжээ ч шаардлагатай байж магадгүй.
- Лабораторийн судлаачдад хандаж, дараагийн хэдэн жил яг ямар байхыг нухацтай бодоорой гэжээ.
Эх сурвалж: @hilbertspaess (X)
