法定继承人可以携带本人身份证及死亡人身份证、户口本、死亡证明等材料，前往当地公证处开具查询函，之后再前往相关银行查询死亡人名下的银行卡。如果无法确定死亡人在哪个银行办理了银行卡，需要耐心寻找。