Er zijn veel verhalen en theorieën over de eerste aankomst van het Jodendom in China. Een aantal daarvan is verbonden met legendes zoals de Tien Verloren Stammen van Israël.
Een grote meerderheid van historici die over het onderwerp hebben gepubliceerd heeft de opvatting, dat de eerste permanente vestigingen van Joden in China uit de tiende of elfde eeuw moeten dateren. Giovanni da Montecorvino, de eerste aartsbisschop van Peking, schreef begin veertiende eeuw in zijn brieven over een joodse gemeenschap in de stad. Marco Polo meldde in Il Milione hetzelfde en noemde een nog grotere gemeenschap in Hangzhou. Ibn Battuta benoemde naar aanleiding van zijn bezoek aan Hangzhou een van de belangrijkste toegangspoorten tot de stad als de Joodse Poort. Diverse overheidsdocumenten uit de periode van de Yuan-dynastie maken duidelijk, dat vanaf 1300 ook joodse religieuze instellingen belastingvrijstelling konden krijgen. Andere joodse gemeenschappen waarvan het bestaan historisch onomstreden is waren aanwezig in Kaifeng, Ningbo, Yangzhou en Ningxia.