işi ehline danışmayı öğrenin.
max 8k bağlamla (context length, statik hafıza genişliği, bu karakter sınırı aşıldı mı başa döner, her şeyi unutur ), 2-7 milyar (repoda sadece 2 milyar datasetli varyasyonu mevcut, lol ) veriseti ne allah aşkına?
beş para etmez çöp: https://huggingface.co/vngrs-ai/Kumru-2B https://galeri.uludagsozluk.com/r/2448530/+
llm modelinin quantization değerleri (FP16 ) o kadar verimsiz ki en az 16 gb rame ihtiyaç duymakta.
bilgi, odtü, turkcell, hepsiburada.com tarafından daha önce llm modelleri üretildi diye biliyorum, gene pr dan ibaret, birilerinin cebini doldurmaya yarayan boş beleş bi proje.
