Voy a cuestas la respuesta de John Deters. Todos los principales sistemas operativos (Windows, Linux, OSX) mantienen registros de la actividad del usuario para diferentes propósitos, y se almacenan en varias ubicaciones.
Teniendo esto en cuenta, si no quieres tener registros de tu actividad, revisa un sistema operativo amnésico como Tails. Tails se ejecuta como un CD en vivo, y solo almacena información en la RAM que se borra al apagarse. Esto deja poca o ninguna información para que los expertos forenses se recuperen (a menos que hayan hecho algo como un ataque de arranque en frío: enlace pero esto es en gran parte poco práctico, especialmente si tiene seguridad física decente).
Finalmente, recuerde que ningún sistema operativo que se comunica en Internet puede ser realmente amnésico, porque en algún momento tiene que enviar datos (cifrados o no) a través de enrutadores, servidores, etc. Tails mitiga algo de esto al usar Tor al predeterminado, pero su tráfico encriptado todavía es visible. Sin mencionar que la NSA puede comprometer el tráfico al controlar los nodos de salida.