Bu topluluğun esası Hazarlara dayanmakta olup, çoğunluğu Hazar Musevîleri teşkil ediyordu. Ancak, Kıpçakların Hazar Devleti yıkıldıktan sonra bölgeye iki asır hakim olmalar sebebi ile topluluk, Hazar lehçesi yerine Kıpçak lehçesi ile konuşmaya başladı.Fakat konuşulan dil tam bir Kıpçakça değildi,Hazarca kelimelerin de içinde bulunduğu, ama Kıpçakçanın hakim olduğu farklı bir Kıpçak lehçesi ki, buna dilciler Karaim Türkçesi ismini vermektedirler. Karaim kelimesi aslında ibranice bir kelime olup, orta çağlardaki bir Yahudi mezhebinin ismidir.
Büyük çoğunluğu Hazar asıllı olan, Kıpçakçanın farklı bir şivesini konuşan ve bağlı bulunduğu mezhebin ismi ile anılan Karay Toplumu, asırlar boyu Kırım'da varlığını sürdürmeye muvaffak olmuştur. Bunlar büyük nisbette Hazar kanı taşıyan, Hazarların etnik ve kültür yönünden varisleri olan insanlardır. Bunların sayıları bilinen ilk tarihlerinden beri pek fazla değildir.
Karay toplumundan bazıları XIV ve XV. Yüzyıllarda Litvanya ve Polonya'ya göçettiler ve oraya yerleşerek bir cemaat oluşturdular. Ayrıca Hazar Devletinin yıkılmasından sonra hiçbir yere gitmeyip Kafkas dağlarında kalan ve varlığını orada sürdüren, anti Tamudist, Karaim Yahudilerinin var olduğunu ve bugün onların Dağlı Yahudiler olarak adlandırıldıklarını da biliyoruz.
Kırım'dan ayrılan Karayların bir kısmı direkt olarak istanbul'a gelip yerleşirken, diğer bir kısmı Kırım'dan , önce Romanya'ya, oradan Edirne'ye ve oradan da istanbul'a gelip yerleşmişlerdir. Dolayısı ile istanbul'da da bir Karay cemaati oluşmuştur. 1917 Ekim ihtilaline kadar bütün Rusya'daki Karaylar çok rahat idiler, ancak ihtilalden sonra bunların rahatları kaçtı ihtilal sonrası bir kısım Karaylar Kırım ve Rusya'yı terkederek Avrupa ülkelerine, Amerika'ya ve Mısır'a göçettiler. Mısır'a göçedenlerin hemen hemen tamamı 1947 Kanal savaşından sonra israil'e giderek Ramle lydda bölgesine yerleştiler. Bugün israil kaynaklarının verdiği bilgiye göre israil'de 15 bin civarında Karay Türkü yaşamaktadır.
Bugün, A.B.D. Avrupa'nın çeşitli ülkeleri, Türkiye, israil ve eski Sovyet coğrafyasında olmak üzere bütün dünyada 30.000'in üzerinde Karay yaşamaktadır. Ancak, Sovyetler Birliği'nin dağılmasından sonra daha önce tespit edilen rakamların eksik kaldığı da anlaşılmaktadır. Bugünkü Azerbaycan coğrafyasında yaşayan Dağlı Yahudiler Karay olmalıdırlar. Azerbaycan'ın Kusar, Bakü, Gence gibi şehirlerinde varlığı tespit edilen Dağlı Yahudilerin sayıları bu rakamı daha da yukarı çıkarmaktadır.
Karaylar, Türk tarihinde önemli bir yeri bulunan Hazarların, torunları ve onların devamıdırlar. Karay kültürü Türk kültürünün bir parçasıdır. Öyle ise Türk dünyası Karaylara gereken ilgiyi göstermelidir. Ayrıca, Türkiye Cumhuruyeti Devleti de kendi milletinin ve kültürünün bir parçası olan Karayları ve onların kültürlerini korumaya almalıdır.
