Man kann die Entstehung des Karäertums als Reformation im Judentum bezeichnen.
Bis zur Verfolgung durch das rabbinische Judentum im 11./12 Jahrhundert sollen ca. 10 Prozent der Juden dem karäischen Judentum angehört haben.
Das rabbinische Judentum ging damals in Spanien scharf gegen die Häretiker vor, laut Israel Shahak:
[Links nur für registrierte Nutzer]Mit Ausnahme Polens hatte die jüdische Gemeinde in keinem anderen Land [Spanien, mabac] größere Machtbefugnisse über die Juden oder benutzte sie - einschließlich der Todesstrafe - so rigoros in der Öffentlichkeit. Seit dem 11. Jahrhundert war es in Kastilien üblich, Karäer (Angehörige einer jüdischen Sekte) durch Auspeitschen bis zum Tode zu bestrafen, falls sie keine Reue zeigten. Jüdischen Frauen, die sich mit Nichtjuden einließen, schnitten Rabbiner die Nasen ab und erklärten dabei, daß "sie auf diese Weise ihre Schönheit verliert und der nichtjüdische Geliebte sie hassen wird". Juden, die die Unverfrorenheit hatten, einen jüdischen Richter anzugreifen, hackte man die Hände ab. Ehebrecher wurden, nachdem sie durch das jüdische Viertel Spießruten laufen mußten, ins Gefängnis gesteckt. Bei religiösen Disputen schnitt man vermeintlichen Häretikern die Zunge heraus.
Da, wo die rabbinischen Juden keine Machtbefugnisse dieser Art hatten, konnte sich die Karäer lange, zum Teil bis heute, halten.
Selbst vom nationalsozialistischen Rassenwahn in Osteuropa blieben sie verschont.
Im russischen Reich waren die Karäer als Folge des Wirkens des Hakham Abraham Firkovich von den Massnahmen gegen das rabbinische Judentum ausgenommen.