하음김씨는 시조를 다르게 하는 두 계통이 있다.

한 계통은 신라 경순왕의 넷째 아들 김은열(金殷說)의 후손으로 평장사 김태서(金台瑞)의 증손인 김효일(金孝逸)이 하음부원군(河陰府院君)에 봉해짐으로서 그 후손들이 본관을 하음으로 하였다.

한 계통은 하음(현 강화)에서 여러대에 걸쳐 살아온 김희정(金希正)을 시조로 하며 그는 문과에 급제하여 벼슬이 공조판서(工曺判書)에 이르렀다.

그 외 김효일의 6대조로 태자소보(太子少保)와 공부시랑(工部侍郞)을 역임한 김경보(金景輔)를 시조로 기술한 문헌도 보이며, 강화김씨의 시조 김성(金晟)의 후손에서 분리된 계통으로 전하기도 한다.