Otabek’s I/O

Bunday research talab qiladigan g'oyaga pul tikadigan investorlar juda kam, deyarli yo'q ayniqsa O'zbekistonda. Shuning uchun to'liq vaqtim va diqqatimni bu yerga qarata olmayabman. Ba'zi narsalar uchun pul kerak, pul topish uchun short-term ba'zi narsalarga rozi bo'lish kerak. Moshina yoqilg'isiz uzoqga borolmagani kabi, biz ham resurssiz (pul, vaqt va diqqatsiz) uzoqga borolmaymiz.
Ammo umid qilamanki kelajakda biror loyiham kattalashib ketsa shunday murakkab jarayon uchun o'zini baxshida qilgan yoshlarga o'zim birinchilardan bo'lib investitsiya qilaman.
Hozircha jarayondan bahraman bo'layabmiz
.

#startup
"Hozir startupda nimalar qilayabman?" eng ko'p so'ralgan savollardan.
Dropbox'da ishlab yurgan paytlarim kichik experiment qilgandik. Mendagi savol quyidagicha:
Nimaga biz kichik, efficient va biror tor yo'nalishdagi modellarni ko'paytirib, ularni CPU da yuritishni o'rniga, general modellarni bilimini (weight) kengaytirib ularni ko'p train qilib, hozirda qimmat bo'layotgan GPU larda yuritishimiz kerak?
GPU va CPU o'rtasida ba'zi katta farqlar bor, ammo bu degani modellarni CPU da yaxshi va effektiv yurita olmaymiz degani emas. CPU dagi eng katta ustunlik bu xotirada. Ya'ni siz 256GB RAM istasangiz undan kattaroq qilib ishlatsangiz bo'ladi ammo bu GPUda bu limit 80GB (H100).
CPU va RAM o'rtasida gaplashish tezligi ~60-100 GB/s, GPU esa ~1000-2200 GB/s ga teng. Modellar ma'lumotlar va juda ko'p compute (xisob-kitob) dan iborat. Shuning uchun ham hozircha buni yaxshiroq algoritmlari topilmagan. Ammo bu degan bunday algoritmlar topilmaydi degani emas.
Qiyin muammo ustida ishlayabman, ammo har kuni nimadir o'rgatadigan muammo ustida ishlayabman.

Sizga sovg'am bor.
Bugun yakshanba, dam olish kuni. Algoritmlar bo'yicha bir paytlar o'tgan jonli darslarimni sizga o'rganishga bermoqchiman. Yana bunday darslarni o'tish uchun vaqt va sharoit topilishi bilan bularni yanada yaxshiroq qilishga harakat qilamiz.
1.
Algoritmlarga kirish
2.
Diskret Matematika
3.
Array & Strings
4.
Recursion
5.
Stack & Queue
6.
Graph
7.
Tree
8.
Deque
9.
Linked List
10.
Sorting
11.
Hash Table
12.
Searching
12.
Sorting 2-qism
13.
Dynamic Programming
14.
Greedy Algorithms
Darslar yoqgan bo'lsa va fikringiz bo'lsa bemalol
donat qilishingiz va fikringizni qoldirishingiz
mumkin. Sizdan kelgan 5000 so'm va fikr ham men uchun juda ko'p support. Ziyo tarqating.

Next token prediction (LLM) is not intelligence.
Prove me I am wrong.

Dropbye!
Bugun mana salgina kam bo'lib qolgan sarguzashtga yakun yasayadik. Corporate job bilan hayrlashib, startup olamiga to'liq qadam qo'yayabman.
Oldinda nima kutib turibdi aniq bilmayman, lekin limitlarimni sinab ko'rmoqchiman. Ha aytgancha, Big Tech offer'lar 9-oy valid, B plan ham bor, lekin bunga muhtoj bo'lmaymiz deb umid qilamiz. Let's build something great together!!!
Goodbye Dropbox. It's been a pleasure journey with you.

2550 kishi bo’lishimiz bilan stream qilamiz. Mavzular quyidagilar:
1. Matematika (Algoritmga kirish)
2. Algoritmlar
3. Murakkab algoritmlar

Imkon qadar ko'proq texnik tajribamni bo'lishishga harakat qilayabman. Mendan ko'proq bilm qolsin deymanda, lekin ko'pchilikga qiziqroq bo'lishi uchun qaysi mavzular yoki soha qiziq bo'layabdi, izohlarda qoldiring.
O'zingizni tanishtirib o'tsangiz ham bo'ladi, agar qiziq inson deb topsam siz bilan bog'lanib yaqinroq tanishgan bo'lardim. Tanishishdan va bo'lishishdan doim xursandman.

Dropbox dan o'rgangan eng muhim 2ta narsam haqida
Computer Networking
Istalgan kompaniya katta trafik bilan ishlashni boshlaganda bu mavzu haqida ko'proq o'rganadi. Bir hamkasbim boomerang-hire bo'ldi, kecha gaplashib qoldik. U borgan startup kompaniya AI uchun infrastruktura qilar ekan va ko'p AI coding qilishar ekan. Eng yomon tomoni hech kim efficiency haqida o'ylamaydi, duch kelgan narsani yozib yuboraveradi deydi. Tushuntirishga harakat qildim nega buncha ko'p tizimda kamchiliklar va outage bo'lishini, lekin quloq solmadi deydi. AI tez kod yozib beradi, jarayonni tushunadigan dasturchilar endi ko'proq qadirlanishini isboti. Networking'ga keladigan bo'lsa, AI uchun klusterlarni va GPU larni bir-biri bilan samarali gaplashishi uchun tarmoqni tizim dizayn qilishadi va barcha keyslarga solib test qilib ko'rishadi (simulyatsiya). Keyin eng yaxshisini olib ishlatishadi. Internet networking siz mavjud bo'lmasdi, bundan buyog'iga ham Network injenerlarga talab kuchayib boraveradi (hardware va software da ham).
Communication
Senior bo'lib ishlab yurgan paytlarimda menejerim menga ko'proq Staff engineer bilan ishlashni, unga yaqinroq bo'lishni maslahat bergandi. Shu maslahatiga quloq solib Staff bo'ldim. Chunki undan ko'p bilmlar o'rgandim. 1:1 meeting qilsak ham hech qachon berilgan mavzudamas, boshqa mavzular to'g'risida ko'proq gaplashardik. Shundan keyin har bir system design qilinishi, research qilinishi kerak bo'lgan joylarda birga ishlashni boshladik. Uni kompaniyadagi 7 yillik tajribasini bir qismi menda bo'lgani uchun ham meni promote qilishdi. Ha undan hamma ko'proq ma'lumot olib qolishga harakat qilishdi, ammo ketishiga oz qolganda. Menda bu narsa ancha erta boshlangandi. Staff bo'lganimdan keyin kod yozishdan ko'ra ko'proq boshqa jamoalar bilan ishlash, o'z jamoamga ko'proq o'rgatish va ulardan ham fikrlar olib ular bilan birga o'sishni o'rgandim. Qisqasi yaxshiroq va ko'proq komunikatsiya qilishni o'rgandim.
Eng kattalari shular bo'ldi, qolganlari IaC, Distributed Systems, Platform Engineering, AI/ML va Data Center lar haqida bo'lgan.