甄某因涉嫌受贿被拘留，因证据不足被人民检察院不批准逮捕，下列做法错误的是（）。

A .立即释放甄某，并将执行回执在两日内送达人民检察院

B .继续羁押犯罪嫌疑人，同时提起复议或复核

C .公安机关认为需要继续侦查的，应当决定取保候审

D .公安机关应当发给《释放证明书》