işi ehline danışmayı öğrenin.
max 8k bağlamla (context length, statik hafıza genişliği, bu karakter sınırı aşıldı mı başa döner, her şeyi unutur ), 2-7 milyar (repoda sadece 2 milyar datasetli varyasyonu mevcut, lol ) veriseti ne allah aşkına?
beş para etmez çöp: https://huggingface.co/vngrs-ai/Kumru-2B https://galeri.uludagsozluk.com/r/2448530/+
llm modelinin quantization değerleri (FP16 ) o kadar verimsiz ki en az 16 gb rame ihtiyaç duymakta.
