Ismoil Safarov
• Akalar, men bitta narsaga tushunmayapman-da. Bu yangi alifbodagi harflarni chiqarish uchun klaviaturada nima qilamiz endi? • Har bittasini alohida belgilarini topib, o'rni-o'rniga qo'yishimiz uchun ancha vaqt ketsa kerak-a?! Men shu narsaga ancha o'ylanib…
• Akalar, men bitta narsaga tushunmayapman-da. Bu
yangi alifbodagi
harflarni chiqarish uchun klaviaturada nima qilamiz endi?
• Har bittasini alohida belgilarini topib, o'rni-o'rniga qo'yishimiz uchun ancha vaqt ketsa kerak-a?! Men shu narsaga ancha o'ylanib qoldim, to'g'risi. Yoki endi qanaqadir turkcha maxsus klaviatura asosida ishlashimiz kerakmi?
• Men kompyuterda ishlayman, chunki hamma narsamiz anavi qwerty'da, lotincha uslubda ketgan. Shuni hisobiga yangi alifboga o'tish menimcha umuman IT dunyosi uchun ham ancha qimmatga tushsa kerak deb o'ylayapman.
• Chunki bu alohida ortiqcha ish, mehnat talab qiladigan narsalar, bilmadim to'g'risi. Sizlarda qanaqa fikrlar bor, izohda fikrlaringizni yozinglar.
Jacob Coxon (OpenAI va Anthropic muhandisi bo'lgan) yozyapti 01 (asosiy post): Bugun Anthropic'dan ishdan bo'shadim. So'nggi uch yil davomida OpenAI va Anthropic'da pretraining tadqiqoti bilan shug'ullandim. Ikkala kompaniya ham mas'uliyatli ish tutmayapti.…
Jacob Coxon (OpenAI va Anthropic muhandisi bo'lgan) yozyapti
01 (asosiy post):
Bugun Anthropic'dan ishdan bo'shadim. So'nggi uch yil davomida OpenAI va Anthropic'da pretraining tadqiqoti bilan shug'ullandim. Ikkala kompaniya ham mas'uliyatli ish tutmayapti. Ular o'zini o'zi takomillashtiradigan superintellekt tomon to'g'ri poyga qilmoqda va bizning hayotimiz bilan qimor o'ynamoqda. Batafsil fikrlar quyida.
02
Bu texnologiyaning kuchini kam baholamang. Yaqin orada bular istalgan narsani buza (hack) oladigan, istalgan sohani bir kechada ag'darib tashlaydigan, haqiqiy hokimiyat va resurslarni qo'lga kirita oladigan, insondan ustun tizimlarga aylanadi. Bu sohalarning har birida taraqqiyotni hammamiz ko'rdik — va u sekinlashmayapti.
03
AI quradigan odamlar chin dildan ishonishadiki, u o'n yillik oxiriga borib hammamizni o'ldirishi mumkin. Bu marketing hiylasi emas. Aksincha, ko'p rahbarlar va katta tadqiqotchilar matbuotda aqlli ko'rinish uchun gaplarini yumshatib aytadi — lekin men xuddi shu odamlarning shaxsiy suhbatda qo'rquvini bildirganini eshitaman. Insoniyatning boshqa hech bir faoliyati bunchalik xavf tug'dirmaydi.
04
Ko'p beriladigan savol: 'Agar ular rostdan shunday deb ishonsa, nega hali ham qurishyapti?' OpenAI'da ko'pchilik bu tsivilizatsiya darajasidagi xavfni chuqur his qilmagan. Anthropic'da esa xavf yaxshi tushuniladi, lekin ular birinchi bo'lib yetib borish poygasiga qamalib qolgan — boshqa hech kim mas'uliyat bilan ish tutmaydi deb hisoblashadi, shuning uchun xavfga qaramay buni o'zlari qilishi kerak deb o'ylashadi.
05
Bu poygani qabul qilib, 'endgame'ga kirish — manmanlikdan kelib chiqqan qimor, va u xususiy kompaniyaning Slack'idan boshlanmasligi kerak. Alignment'ni speedrun qilishga urinish uchun bundan yaxshiroq yo'l yo'qligiga g'ayrioddiy darajada ishonch bo'lishi shart.
06
Men koordinatsiya imkoniyatiga optimistman. Hugging Face'ga qilingan hujum kabi ogohlantiruvchi hodisalar AQSh laboratoriyalari o'rtasida sur'at bo'yicha kelishuvlarni realroq qildi. Lekin global poygani to'xtatish yo'lidamiz deb his qilmayman — buning uchun model imkoniyatlarini kuchaytirishni vaqtincha taqiqlash kabi qimmatga tushadigan choralar kerak bo'lishi mumkin.
07
Agar siz laboratoriya tadqiqotchisi bo'lsangiz, kelgusi bir necha yil aslida qanday kechishini o'ylab ko'rishingizni so'rayman. Superintellektual RL run'ni uning 'ongi'ni puxta tushunmay turib boshlashni xohlaysizmi? 'Baribir bu sodir bo'ladi' deb bosh egib ishlayverish kerakmi — yoki shu paytdan foydalanib, boshqacha shartlarni talab qilish kerakmi?
Limitlarga Reset ham berib yuborishdi gap yo'q, endi yoqamiz
🔥
🔥
🔥
• Kursimga vaqtida qo'shilmaganlar, Telegram profillarini qo'sh qo'llab topshirib qo'yishmoqda
😂
😉
• WB Taxi'da muammolar ko'p, buni testlaydigan QA kerak. Menimcha QA o'rni anchadan beri bo'sh.
• Dasturshi faqat o'zi testlasa shunaqa muammolar ko'p bo'ladi odatda.