El problema es que la ciberseguridad no se limita a las vulnerabilidades del software, que es en lo que parece estar centrado. Sí, las vulnerabilidades del software son una gran parte de esto, pero hay mucho, mucho más.
Por ejemplo, tome criptografía, los algoritmos matemáticos de los que dependemos para proteger casi toda la información confidencial. Para que la IA haga el trabajo de los humanos, tendría que ser capaz de encontrar fallas en los procedimientos matemáticos, lo que probablemente significa que tendría que poder escribir sus propias pruebas. También tendría que escribir nuevos algoritmos para mantenerse al día con el aumento del poder informático y los nuevos avances en la investigación matemática. Ninguna IA está ni siquiera cerca de poder hacer esto. De hecho, es tan descabellado que no creo que nadie lo haya intentado. (Y si AI llega a este punto, ¡la muerte de la ciberseguridad será la menor de tus preocupaciones!)
Luego, está el aspecto humano, como mencionó Schroeder. No es algo que pueda descartarse como un "problema organizativo" y simplemente ignorarlo. De hecho, diría que alrededor del 80% de la ciberseguridad se trata de lidiar con la estupidez humana, no solo de los usuarios, sino también de los administradores de sistemas. Es 2015, pero la contraseña más común sigue siendo "123456" . Personas que usan la misma contraseña para todo. Los administradores de sitios web no se molestan en hash y saltear las contraseñas de los usuarios, o elegir algoritmos débiles. Las personas que no se molestan en cambiar las contraseñas predeterminadas en enrutadores, impresoras, cámaras e incluso sistemas de control industrial, dejándolas totalmente expuestas en Internet esperando a ser explotadas . Redes de empresas que no están adecuadamente diseñadas y segmentadas. Y, por supuesto, la suplantación de identidad (phishing): muchas violaciones de seguridad enormes comienzan simplemente con la obtención de la contraseña de un administrador del sistema mediante un correo electrónico bien diseñado, que proporciona un punto de entrada a la red. Hay toneladas más que podría enumerar, pero entiendes la idea. Todos estos son problemas serios y actuales en la ciberseguridad y son ampliamente explotados por piratas informáticos, sin embargo, ninguno de ellos es fundamentalmente un error de software. Para solucionar esto, debes educar a la gente o diseñar sistemas que sean más idiotas.
Y todo eso, por supuesto, es suponer que un día la IA podrá corregir las vulnerabilidades del software automáticamente, el 100% del tiempo, algo que está lejos de estar garantizado. En todo caso, la gente simplemente comenzará a buscar fallas en la IA. Después de todo, la IA está escrita por humanos, y nunca será perfecta. Siempre habrá casos en los que se puede engañar a la IA.
La demostración de teoremas parece prometedora, pero no quiero involucrarme
en seguridad cibernética, posiblemente como una carrera, si estuviera sin trabajo en
el futuro.
Este no es realmente el lugar para el asesoramiento profesional, pero puedo decir con 100% de certeza que la ciberseguridad no es va a desaparecer en cualquier momento pronto . Solo se hará más grande a medida que los sistemas informáticos se vuelvan más críticos de lo que ya son, a medida que los desarrolladores escriben cada vez más códigos defectuosos y que más y más usuarios (sin idea) se conecten.