2018年9月，某县发生了一起盗窃案。被害人陈某晚上回家后，发现房间内一片狼藉，立即报警。经核实，陈某丢失现金、珠宝首饰和债券(价值人民币10万元)以及祖传文物1件。某县公安局经立案、侦查，认为本村村民郑某有重大作案嫌疑。侦查终结后，公安局于2018年10月31日将案件移送至县检察院审查起诉。县检察院接到公安局移送起诉的案件，对犯罪嫌疑人郑某进行了讯问，认为证据不足，遂于11月12日退回公安局补充侦查。12月19日，公安局补充侦查完毕，再次移送起诉。县检察院经过审查，认为证据仍然不足以证明郑某实施了盗窃行为，于2019年2月10日作出了证据不足不起诉的决定，公开宣布，并于2月12日将不起诉决定送达了公安局、犯罪嫌疑人郑某、被害人陈某。县公安局认为不起诉决定不当，于是继续羁押犯罪嫌疑人郑某，并向上一级检察院即市人民检察院提请复议，市检察院维持了不起诉决定。

陈某对不起诉决定不服，向人民法院提起诉讼，该法院以未先行向检察机关申诉为由拒绝受理。

问题：本案中刑事诉讼程序有何不当之处?并说明理由。