1.对国家惩罚权性质及来源的错误认识。洛克从契约论的角度给出过论证，并最终得出了“国家的惩罚权来自于人们对各自在自然状态下的所享有的行使惩罚权的放弃和转让”这一结论。这内在的决定了国家惩罚权的行使必须符合公民让度其个人权利的根本目的。在司法实践中，之所以导致某些公安、司法人员置宪法和刑事诉讼法的明文规定于不顾，而违反法定职权和程序，思想根源就在于对国家惩罚权性质的错误认识，片面认为认为只要是出于国家利益和公共利益而惩罚犯罪的需要便可以不择手段的行使惩罚权。
2.程序工具主义的价值观。所谓程序工具主义是指片面强调刑事诉讼法程序对于发现案件真相和追诉犯罪的实际效用，否认程序自身所具有的独立于发现案件真相以外的其他重大价值的诉讼价值观念。千百年了我国儒家思想占有举足轻重的地位，使中国封建法律伦理化，形成了中国法系所独有的伦理主义精神。在刑事制度中，正是深藏于这一根深蒂固的法律传统，往往片面强调如何有效的获得有罪证据以尽快破案，而否认程序自身独立于发现案件真相之外的其他重大价值。
3.有罪推定的侦查思维定式。无罪推定是国际上普遍遵行的刑事司法原则。但在司法实践中，情况有时却恰恰相反。以收集言辞证据为例，案件承办人员在对证实犯罪嫌疑人涉嫌犯罪的众多涉案“本证”和“反证”进行综合审查、分析后作出“虽然证据尚不确实，但基本事实可以肯定这起案件是犯罪嫌疑人所为”等此类所谓的“倾向性意见”是司法实践中（尤其是侦查实践中）常见的现象。承办人员通常认为，犯罪嫌疑人既然被抓获，就不可能是无罪的。正是在这种强烈的主观“判断”意识的支配下，导致并促使承办人员在已有证据的基础上积极的收集能进一步强化证实犯罪嫌疑人“有罪”的其他新证据。显然，此时，承办人员主观上已有“犯罪嫌疑人有罪”的强烈倾向。于是，在之后的讯问犯罪嫌疑人时承办人员会格外关注“归罪性陈述”。相反，对于犯罪嫌疑人、被告人所作的无罪辩解则一律视之为违法《刑事诉讼法》“如实供述”的义务。当犯罪嫌疑人拒供时，为了不使“真正的罪犯”漏网，不留痕迹的“动动手”也就成为了此时应对这类“不老实”的犯罪嫌疑人加大审讯力度获取有罪口供从而“顺利结案”的“必要手段”。
4.现行刑事诉讼法中的不完善之处。现行刑事诉讼法以义务性规范、禁止性规范的形式,强调法院、检察机关和公安机关在诉讼活动中应严格遵守法律规定的程序,禁止以非法的手段获取证据。除了原则性的规定以外,刑事诉讼法还就侦查人员收集证据所需遵守的法律程序作出了一系列的规定。但是,如果有关机关违反了上述“法律规定的程序”,应当有什么样的法律后果呢？现行法律中的相关规定缺乏程序性制裁结果，没有救济，则没有权利，没有相关的程序保障措施，非法证据排除规则往往只能是停留在纸上。
5.法律监督的局限性。在中国制度背景下作为“法律监督机关”的检察机关,尽管也将严禁以非法方法收集证据作为其对侦查机关实施法律监督的一种方式，但遗憾的是这并非是检察机关的一项法定职能。作为检控方的检察机关,承担着提起公诉、支持公诉从而使有罪者受到法律惩治的使命。如果侦查机关移交而来的被告人供述、证人证言、被害人陈述等证据,尽管是侦查人员采取非法手段获取的,但它们却政法委或领导视为“客观真实的”,并且与案件事实具有关联性,能够证明被告人的“犯罪事实”,那么检察机关在“排除”这些非法证据方面,必定阻力重重。很显然,作为一种基本的制度逻辑,检察机关不可能一贯地将侦查机关提交的非法证据加以排除,因为这种证据尽管为非法证据,却都是有利于公诉而不利于被告人的证据。当然检察机关也有追究侦查人员刑讯逼供罪的案例，不过冤案的发生恰恰是侦查人员的刑讯逼供行为造成的。显然,人民检察院并没有确立真正意义上的“非法证据排除规则”。
6.最高人民法院的司法解释缺乏程序性保障。最高人民法院的司法解释，对“非法证据”的性质、范围、后果，作出了明确的规定,使得法院在排除非法证据方面,有了明确的法律依据。应当说,最高人民法院的这一解释是对现行刑事诉讼法的一大突破。因为刑事诉讼法只是以禁止性规范的形式要求侦查人员不得采用刑讯逼供等非法取证手段,而并没有就排除非法证据的问题作出任何明确的规定。而最高人民法院的解释则使得非法证据排除规则变得明确化和具体化了。
