Un ejemplo es el sistema de codificación de contenido para evitar que se copien los DVD. Si bien el sistema de aleatorización era desconocido, esto funcionó. Luego, un adolescente llamado Jon Lech Johansen lo descubrió, escribió DeCSS y se rompió.
Como señala @GrahamLee, los mecanismos de seguridad en los que se debe confiar deben seguir funcionando, incluso cuando los malhechores los conocen.
En estos días, la criptografía proporciona seguridad en tantas aplicaciones, por lo que es fundamental que se implemente correctamente. Debido a que las matemáticas están más allá de la mayoría de las personas, hay una escuela de pensamiento que aboga por la publicación de algoritmos y permite que las personas de todo el mundo traten de encontrar fallas. El alza - muchos ojos. El inconveniente: si el algoritmo ya está implementado, un atacante puede encontrar una falla y ser capaz de usarlo, por lo que hacerlo antes de la implementación es muy útil.
El otro punto de vista es ocultar el algoritmo para evitar que los atacantes sepan cómo funciona. El problema con la oscuridad es que se ha demostrado una y otra vez que la confianza en la seguridad y la oscuridad falla porque en algún momento los malos descubren el secreto. .
Vale la pena leer este post de Bruce Schneier: un conocido oponente de la seguridad a través de Darkness, y el autor de varios algoritmos de cifrado que han sido probados por la comunidad, como un ejemplo de dónde ha funcionado la oscuridad, pero solo porque los delincuentes no se enteraron del plan.
No sé si es posible responder realmente la última parte de su pregunta sin más contexto. Por ejemplo, si esto es para el código desarrollado por terceros, podría solicitar una revisión del código, pero lo que realmente podría buscar es un tercero que publique sus algoritmos / código, etc. como fuente abierta.