diff --git a/src/p2p/net_node.inl b/src/p2p/net_node.inl
index 65db2615c..eabee9fbf 100644
--- a/src/p2p/net_node.inl
+++ b/src/p2p/net_node.inl
@@ -260,6 +260,8 @@ namespace nodetool
       peerlist_entry pe{};
       pe.adr = addr;
       zone.second.m_peerlist.remove_from_peer_white(pe);
+      zone.second.m_peerlist.remove_from_peer_gray(pe);
+      zone.second.m_peerlist.remove_from_peer_anchor(addr);
 
       for (const auto &c: conns)
         zone.second.m_net_server.get_config_object().close(c);