Geliştirici · BRSX Labs
Dokuz yaşında programlamaya başladım, öğrendiğim her şeyi kendi kendime öğrendim. Bugün hibrit model mimarileri üzerine çalışıyorum ve modellerin etrafında ihtiyaç duyduğum altyapıyı BRSX Labs çatısı altında topluyorum.
İşin sonundan başladım: bir dil modeli eğitmek istedim. Eğitmek tek başına yetmedi — modeli barındırmak, çıktısını saklamak, sunucuyu ayakta ve güvende tutmak gerekti. Her eksik parçayı yazmak zorunda kalınca elimde birbirine bağlı bir araç ailesi oluştu.
Araştırma tarafında ilgimi çeken şey hibrit mimariler: Transformer, GRU, Mamba/SSM ve CNN uzmanlarını paralel çalıştırıp hangi işte hangisinin öne çıktığını ölçmek. Bunun için ablasyon altyapısı kurdum, farklı alanlarda (DNA dizisi, spin sistemleri, ağ davranışı, aritmetik) aynı deseni denedim.
Şu an lise öğrencisiyim, Şanlıurfa'da yaşıyorum. Uzun vadede makine öğrenmesi araştırmacılığına — doktoraya kadar — gitmek istiyorum.
PyPI · brsx
Model kurma ve eğitme çerçevesi. Mamba paralel taramasındaki fp16 taşmasından kaynaklanan sessiz NaN gradyanlarını, top_k=1 çökmesini ve eksik gradyan kırpmayı giderdim. Çoklu token tahmini (MTP) ve hibrit eğitici dalları üzerinde çalışıyorum.
Araştırma
Transformer + GRU + Mamba/SSM + CNN uzmanlarını paralel çalıştıran modeller tasarlayıp eğittim: DNA dizisi sınıflandırma (GenoLite-88M), Ising spin sınıflandırma, ağ davranışı sınıflandırma (ShadowCore) ve sayısal/aritmetik görevler (NumericalLM). Karşılaştırmayı 4 sentetik görev × 9 mimari varyantlık bir ablasyon düzeneğiyle yapıyorum.
Sıfırdan eğitim
Bir milyar parametreli bir modeli sıfırdan eğittim; kendi ölçümümde HumanEval'de ~%70 seviyesine ulaştı. Öncesinde CPU üzerinde küçük GPT modelleri, karakter seviyesinde kendi tokenizer'larım ve aritmetik/dizi görevleri için veri üreticileri vardı.
WSGI · güvenlik
pip ile kurulan bir WSGI güvenlik duvarı ara katmanı. Satır içi engelleme mimarisi, Redis entegrasyonu, bot sınama sistemi, SOC paneli ve yanlış pozitif geri besleme döngüsü içeriyor. PyPI'daki son sürümünden sonra özel geliştirmeye aldım.
2025 —
Altı ürünlük bir ekosistem: model barındırma ve API (Cloud), güvenlik duvarı (Zerov4 & Arx), dosya depolama (Archive), QR araçları (Qrx), not asistanı (Notes) ve sıfırdan eğittiğim AI serisi (Focus). Archive ve Qrx'e API anahtarıyla erişiliyor, ikisinin de PyPI paketi var. Backend, arayüz ve sunucu tarafı bana ait.
Sıfırdan eğitim · yayında
Sıfırdan eğittiğim, İngilizce ve küçük bir AI serisi. Focus-v1 normal bir dil modeli; Focus-v1-pro ise gerektiğinde hesap makinesini ve arşivi kendisi kullanan agentic bir LLM. İkisi de Hugging Face'te yayında; repodaki chat.py ile kendi bilgisayarında çalışıyor, focus.brsxlabs.com'da yazılabilir.
Devam ediyor
Türkçe için ~100M parametreli bir model eğitme çalışması. Hibrit SSM+Transformer yönünü araştırıyorum; mimari henüz kesinleşmedi.
Proje, soru ya da birlikte çalışma fikri için yazabilirsin.