当一家私营企业怀疑其员工存在收受回扣的行为时，根据《中华人民共和国刑事诉讼法》的规定，可以通过法定程序进行立案调查。首先，企业需全面搜集可能指向回扣行为的证据，包括财务报告、合同文档、电子邮件往来以及任何可能的沟通记录，确保证据的合法性和完整性。
一旦证据收集完毕，企业应将这些材料提交给当地的公安机关或者人民检察院，申请启动刑事侦查程序。相关部门会对证据进行严谨审查，判断是否有足够的依据支持立案。如果证据确凿，相关部门会采取强制措施对涉嫌员工进行深入调查，以查明事实真相。
调查结束后，公安机关或检察院将根据调查结果形成法律文件，提交给法院进行审理。法院会根据法律程序，对员工的涉嫌行为进行公正裁决。整个过程需严格遵循法律程序，确保公正和公平。通过这样的方式，企业可以维护自身利益，同时保障员工的合法权益不受侵犯。