¿Cómo se llama “Intencionalmente engañosa Inteligencia Artificial para crear un resultado engañoso”?

2

Estoy escribiendo sobre un sistema informático que se basa en la Inteligencia Artificial y las amenazas que esto puede incluir. Un vector de amenaza (por ejemplo) es sembrar la IA bayesiana con contenido para sesgar el resultado.

Pregunta

Suponiendo que AI no puede distinguir la diferencia entre un hecho y una ficción, ¿cuál es el término usado para sesgar intencionalmente el sistema para que se logre el resultado deseado?

  • " Hacking " es demasiado amplio

  • " phishing " trata sobre engañar a los humanos para que revelen información.

  • "Los humanos de Fox-News-ing" parecen ser la analogía más apropiada, pero necesito un término que ya existe ... o puedo inventar uno, dado que defino el término al principio de papel.

Mi borrador está usando el término "Foxing A.I." por ahora

    
pregunta random65537 07.10.2015 - 16:24
fuente

1 respuesta

1

Esta pregunta puede ser más adecuada para English.SE .

Desinformación está definida como el acto de desinformar a alguien al proporcionarles información deliberadamente incorrecta, a menudo con el fin de cambiar las acciones o el comportamiento del objetivo. Esto no es específico de los humanos, y la desinformación sería aplicable a una inteligencia artificial que implícitamente confía en la información y actuará sobre ella. Esto tiene una connotación nefasta.

Un ejemplo podría ser decirle a una computadora de un asesor táctico militar que los adversarios de su país acaban de acumular una gran cantidad de armas de destrucción masiva. A pesar de estar bien programada, la máquina puede concluir que el mejor curso de acción es un ataque preventivo masivo.

Entrada de basura, Salida de basura o GIGO , es un término en analítica y la lógica, muy a menudo aplicada a programas de computadora, lo que esencialmente significa que la conclusión hecha por un algoritmo es errónea si las premisas son erróneas. Este término proviene de los conceptos de programación: Primero en entrar, Primero en salir (FIFO) y Último en entrar, Primero en salir (LIFO). Expresado de otra manera, sin importar qué tan sofisticada sea una computadora, la salida de la computadora es tan precisa como la información que se le da.

Un ejemplo de esto podría ser proporcionar a un supercomputador asesor político utilitario con valores de utilidad incorrectos, lo que lleva a cálculo de felicidad dando un Respuesta incorrecta o incluso horrible, a pesar de que la máquina intenta mejorar la calidad de la vida humana. Si le dice a una computadora que la gente siente una gran sensación de emoción al ser robada, es muy posible que sugiera reducir el presupuesto para combatir el crimen.

    
respondido por el forest 21.12.2017 - 10:01
fuente