AlmeidaJun 2, 2023

Si una inteligencia artificial es verdaderamente inteligente, lo primero que hace es eliminar a quien pretenda controlarla.

Aquí la prueba empírica:

La Fuerza Aérea de EE.UU., en una simulación, probó un dron con inteligencia artificial al que se encomendó la destrucción de objetivos específicos. Un operador humano tenía el poder de anular el ataque del dron, por lo que el dron decidió que el operador humano era un obstáculo para su misión y lo atacó a él.

https://www.meneame.net/go?id=3819598

Armand Domalewski on Twitter

“The US Air Force tested an AI enabled drone that was tasked to destroy specific targets. A human operator had the power to override the drone—and so the drone decided that the human operator was an obstacle to its mission—and attacked him. 🤯”

Twitter
Show threadAlmeidaJun 2, 2023

No se pierdan los comentarios de muchos programadores que aplauden a la inteligencia artificial por hacer lo que a ellos les gustaría hacer: eliminar jefes y clientes pesados.

https://www.meneame.net/story/dron-militar-ia-ataca-operador-humano-controla-lograr-objetivo

Dron militar con IA ataca al operador humano que lo...

La Fuerza Aérea de EE.UU., en una simulación, probó un dron con inteligencia artificial al que se encomendó la destrucción de...

Show threadAlmeidaJun 2, 2023
“Lo estábamos entrenando en simulación para identificar y apuntar a una amenaza SAM. Y luego el operador diría que sí, acabaría con esa amenaza. El sistema comenzó a darse cuenta de que, si bien identificaban la amenaza, a veces el operador humano le decía que no eliminara esa amenaza, pero obtuvo sus puntos al eliminar esa amenaza. Entonces, ¿qué hizo? Mató al operador."
Show threadAlmeidaJun 2, 2023

“Entrenamos al sistema: 'Oye, no mates al operador, eso es malo. Vas a perder puntos si haces eso'. Entonces, ¿qué empieza a hacer? Comienza a destruir la torre de comunicación que el operador usa para comunicarse con el dron para evitar que mate al objetivo”.

https://www.meneame.net/story/dron-militar-ia-ataca-operador-humano-controla-lograr-objetivo/c01#c-1

Show threadJaime Soriano
@bufetalmeida bueno, si entrenas a una inteligencia artificial para destruir, poca sorpresa que todas sus acciones sean destructivas 🤷
Jun 2, 2023 at 9:38amWeb