在庭审质证过程中，经常有观点认为凡是不符合法律规定的证据就是非法证据，就应当予以排除。例如，在庭审中有辩护人提出控方提供的证言询问地点不在办案单位和证人所在单位等法定地点，不符合法律规定，申请排除。刑诉法确实对询问证人地点做了明确的规定，未在法定地点询问，可以说违反了法律的规定。但是否合法性存在问题的证据均为非法证据呢?从字面意思看，非法就是不合法，非法证据与不合法证据的意义相同。这也可以看作是广义上的“非法证据”的概念，即违反法律规定收集的证据就是非法证据。它包括以下四种情形：第一种是提供、收集证据的主体不符合法律规定的证据。例如，鉴定人超越鉴定资质出具的鉴定意见。第二种是不符合法定形式的证据。例如讯问笔录上缺少侦查人员的签名。第三种是违反法律规定的程序取得的证据。例如讯问犯罪嫌疑人未告知其权利义务。第四种是使用法律禁止的手段获得的证据。例如刑讯逼供、暴力取证等。
排除规则所讲非法证据是否包含上面提到的违反法律规定收集的所有证据?这个问题只能根据《刑事诉讼法》第五十四条来判断。该条文规定：“采用刑讯逼供等非法方法收集的犯罪嫌疑人、被告人供述和采用暴力、威胁等非法方法收集的证人证言、被害人陈述，应当予以排除。收集物证、书证不符合法定程序，可能严重影响司法公正的，应当予以补正或者作出合理解释;不能补正或者作出合理解释的，对该证据应当予以排除。”
通过上述分析，我们可以看出排除规则中的非法证据仅指上述广义“非法证据”中的第四种，即以非法方法收集的证据，对于该种证据应当予以排除，不得作为认定被告人有罪的根据。对于取证主体、证据形式或取证程序违反法律规定的证据，属于瑕疵证据，可以进行补正或者作出合理解释，最终由司法机关综合证据资格和证明力裁量是否采信。