公元7世纪，伊斯兰教兴起并且不断扩张。中国也深受伊斯兰扩张的影响。751年（唐天宝十年），唐朝与黑衣大食发生怛罗斯之战，唐朝战败，终止了向西扩张，但也一定程度上抵御了伊斯兰教的东扩。不过，在东南沿海地区，唐朝与伊斯兰教商人的贸易火热，大量阿拉伯与波斯人来到广州和泉州，形成了很多番坊，在长安城中，同样有很多番坊。最有名的数据就是唐末黄巢起义在广州一次性杀戮了20万藩客，虽然数字可能有夸大的成分，但是确实也说明了当时来到中国的阿拉伯与波斯商人众多。
伊斯兰教在中国地位的进一步上升是在元朝时期。因为蒙古西征，更早平定了中亚地区，将大量的波斯人与阿拉伯人编入军队，参加对南宋的战争。这些人就留在了中国，成为元朝四个等级中的第二等级，统称为色目人。他们在元朝娶妻生子，就是今天的回族、东乡族等信仰伊斯兰教的各族的祖先。明代开国大将常遇春与胡大海等人都被认为非常有可能是回族。而郑和则确定是回族。所以，从这里也可以看到元朝时伊斯兰教信仰的民族确实具有非常大的影响力。
不过到了明清时期，因为航海技术的提高，来到中国的伊斯兰教商人明显减少，相反，在东南亚很多地方出现了中国人社区，广州、泉州的伊斯兰教色彩就淡了很多。而在西北地区，因为信仰伊斯兰教的色目人后裔已经聚居，因此明清两朝主要是采取了限制的措施。