Энэ салбар хамгийн бага зохицуулалттай хэр хурдацтай урагшилж байгааг харгалзан Суцкевер хиймэл ерөнхий оюун ухаан (AGI)-тай холбоотой асуудлыг олж харсан байх.
Илья Суцкеверийн шинэ
компанийн онцлог нь түүний онцгой анхаарал хандуулдаг зүйл бол аюулгүй дээд тагнуулыг бий болгох чухал ажлыг шийдвэрлэх явдал юм.
“Аюулгүй супер тагнуул” яагаад чухал вэ?
Супер оюун ухааны санаа буюу Утасны дугаар номын сан ерөнхий оюун ухаанаараа хүнээс давж гардаг хиймэл оюун ухаан
нь шинжлэх ухааны уран зөгнөлт киноноос шууд гардаг шиг санагддаг. Гэвч технологи хурдацтай хөгжиж байгаа тул супер оюун ухаан нь уран зохиолын ертөнцөд удаан хугацаагаар үлдэхгүй.
Эндээс “аюулгүй” хэсэг нь маш чухал болж хувирдаг.
Асуудлын гол цөм нь энд байна: хиймэл оюун ухаан нь ямар ч хүнээс илүү сэтгэж, түүнийг даван туулах чадвартай гэж төсөөлөөд үз дээ.
Хиймэл оюун ухаан залилан
мэхлэх гэсэн ойлголт шинэ કાર્ટૂન માટે ભવિષ્યમાં બનાવવામાં આ зүйл биш. Гэхдээ энэ нь бидний том дэлгэцэн дээр харж дассан алуурчин роботуудын тухай биш юм.
Энэ нь таныг бий болгосон системээс илүү хүчирхэг системтэй байх үед тохиолдож болох гэнэтийн үр дагавар, урьдчилан тооцоолоогүй долгионы нөлөөний тухай юм.
Энэ бол Суцкеверийн шинэ компанийн шийдвэрлэхээр зорьж буй сорилт, эрхэм зорилго бөгөөд үүнийг манай цаг үеийн хамгийн амбицтай, чухал гарааны бизнесүүдийн нэг болгож байна.
SSI Inc-ийг задлах нь: Илүү ойроос харах
2024 оны 6-р сард үүсгэн байгуулагдсан Safe Superintelligence Incorporated нь “аюулгүй супер тагнуулын үйл ажиллагаа явуулах” зорилготой юм.
SSI Inc. нь өөрийгөө
“Нэг зорилго, нэг үндсэн twd directory бүтээгдэхүүн бүхий дэлхийн хамгийн анхны шууд харвах SSI лаборатори: аюулгүй супер оюун ухааныг бий болгох” гэж тодорхойлсон.
Тэдний санаа зорилгын талаар тодорхой бус зүйл байхгүй; Тэд хиймэл супер оюун ухааны (ASI) хязгаарыг шууд зорьж байна.
Мөн тэд үүнийг хүний үнэ цэнэ, аюулгүй байдлын протоколуудтай уялдуулахын нэн чухал ач холбогдлыг анхаарч, үүнийг хийхээр төлөвлөж байна.
Ийм шинэлэг технологийг бүтээх нь нэг хүний шоу биш гэдгийг Суцкевер ойлгосон. Тэрээр хиймэл оюун ухааны салбарын хамгийн авъяаслаг инженер, судлаачдаас бүрдсэн “хагарсан” багийг цуглуулсан.
