據(jù)查證，目前所知最早活動于河南的康氏人是康巨、康孟祥二人與釋曇諦家族。這些人大約在東漢靈帝時期來華?？稻?，譯出《問地獄事經(jīng)》一卷；康孟祥譯出《梵綱經(jīng)》一卷，《太子本起瑞應(yīng)經(jīng)》二卷，《四諦經(jīng)》等經(jīng)六部。釋曇諦，漢靈帝時移居中原。漢獻(xiàn)帝末遷往江浙一代。其父康肜曾經(jīng)擔(dān)任過冀州別駕的官職。

　　魏晉時，康僧鎧，來到洛陽，譯出《郁伽長者》等四部經(jīng)。此外還有康敦家族。據(jù)《康敦墓志》稱：夫人諱敦，其先康居國人也。晉太始年中奉表獻(xiàn)真珠寶物，因留子孫，遂為河南洛陽人焉。 　　北朝時期，留居河南的有康威家族、康婆家族、康楨家族、康留買家族、康老師家族等等。如《康威墓志》稱：君諱威，魏道武歷通五運，爪牙同湊，遷興大豫，今為河南人焉?！犊灯拍怪尽贩Q：君諱婆，本康國王之裔也。高祖羅，以魏孝文世，舉國內(nèi)附，朝于洛陽，因而家焉，故為洛陽人也。祖陀，齊相府常侍。父和，隋定州薩寶。《康楨墓志》云：君諱楨，河南鞏縣人也。原夫吹律命系，建旌西魏。祖安，翼贊周朝；父陀，匡輔隋室?！犊盗糍I墓志》：公諱留買，本即西州之茂族，后因錫命，遂為河南人焉。出土于河南孟津縣的《康老師墓志》稱：君諱老師，其先康國人也。曾祖寶，康國王之第九子也。周游擊將軍，以西諸國首領(lǐng)。祖和，周明威將軍。父祗，隋鷹揚郎將。 　　隋末唐初，突厥歸降唐朝，一部分被安置在今寧夏一帶，有“六胡州”之稱。唐玄宗時，六胡州人康待賓帥眾反抗唐朝，史稱有眾七萬進(jìn)逼夏州。后被鎮(zhèn)壓。不久，康待賓部將康愿子再度起兵抗唐，自稱可汗。但不久即被唐政府打敗。為了緩和雙方矛盾，唐政府開始大批“徙河曲六州殘胡五萬余口于許、汝、唐、鄧、仙、豫等州。”上面的許州大約就是今許昌一帶，汝州也是如此。唐州大約在今泌陽、方城、慈丘一帶。鄧州大約在今河南內(nèi)鄉(xiāng)、南陽、鄧州一帶。仙州大約在今葉縣一帶。豫州大約在今河南汝陽、汝南一帶。 　　這些遷居河南的康氏（康居人），成為漢末至唐中期河南康氏的最初聚居群落。