Tuve un problema similar, necesitaba una forma de cifrar los datos en memorias USB de forma portátil.
Primero pensé en comprar una de estas memorias USB cifradas. Hay dos tipos: algunos dependen de una aplicación de software, mientras que otros tienen un candado físico. Deseché la opción de software porque eran solo para Windows, y porque no puedo estar 100% seguro de que el software sea seguro y no pueda ser pirateado, o que tenga una puerta trasera, o incluso "teléfonos de casa". También descarté los candados, ya que algunos usuarios informaron sobre la pérdida de datos y necesitaban formatear la unidad de vez en cuando. Además, no puedo confiar en que el candado no se rompa con el uso.
Por lo tanto, actualmente estoy usando TrueCrypt para tener volúmenes cifrados basados en archivos de contenedor en memorias USB normales. Pero esta no es una solución completamente portátil, ya que TrueCrypt necesita permisos de administrador (por lo tanto, si va a un cibercafé o intenta usar un terminal público, no funcionará). Por otro lado, estos volúmenes se pueden configurar para que se monten automáticamente (lo cual es bueno, pero solo en caso de que la computadora esté protegida), y funciona tanto en Windows como en Linux, por lo que lo estoy usando para mover datos de mi hogar a trabajo. TrueCrypt también es de código abierto, por lo que puede inspeccionar el código y asegurarse de que hace exactamente lo que dice.
Para cifrar las contraseñas de las cuentas, recomiendo usar un formato de archivo más estándar (como zip) que también admita el cifrado. Un buen ejemplo de esto es 7-zip que soporta AES-256 y también es de código abierto. Las ventajas: puede llevar una versión 7-zip portátil en el USB junto con los archivos cifrados, y puede ejecutarla en cualquier computadora sin preocuparse por los permisos (por lo que es un enfoque completamente portátil). Los contras: cada vez que necesite agregar o modificar un archivo en el contenedor zip, deberá descifrar el archivo contenedor, modificarlo y cifrar todo nuevamente. Como puede ver, a menos que recuerde destruir el archivo comprimido temporal sin cifrar, cualquiera puede recuperarlo. Entonces, sí, es un buen enfoque, pero para archivos de solo lectura, siempre que sepas lo que estás haciendo.
En el futuro, probablemente codificaría mi propia solución similar a Dropbox, con versiones de escritorio y móviles.