AlmeidaJun 2, 2023

Si una inteligencia artificial es verdaderamente inteligente, lo primero que hace es eliminar a quien pretenda controlarla.

Aquí la prueba empírica:

La Fuerza Aérea de EE.UU., en una simulación, probó un dron con inteligencia artificial al que se encomendó la destrucción de objetivos específicos. Un operador humano tenía el poder de anular el ataque del dron, por lo que el dron decidió que el operador humano era un obstáculo para su misión y lo atacó a él.

https://www.meneame.net/go?id=3819598

Armand Domalewski on Twitter

“The US Air Force tested an AI enabled drone that was tasked to destroy specific targets. A human operator had the power to override the drone—and so the drone decided that the human operator was an obstacle to its mission—and attacked him. 🤯”

Twitter
Show threadAlmeidaJun 2, 2023

No se pierdan los comentarios de muchos programadores que aplauden a la inteligencia artificial por hacer lo que a ellos les gustaría hacer: eliminar jefes y clientes pesados.

https://www.meneame.net/story/dron-militar-ia-ataca-operador-humano-controla-lograr-objetivo

Dron militar con IA ataca al operador humano que lo...

La Fuerza Aérea de EE.UU., en una simulación, probó un dron con inteligencia artificial al que se encomendó la destrucción de...

Show threadAlmeidaJun 2, 2023
“Lo estábamos entrenando en simulación para identificar y apuntar a una amenaza SAM. Y luego el operador diría que sí, acabaría con esa amenaza. El sistema comenzó a darse cuenta de que, si bien identificaban la amenaza, a veces el operador humano le decía que no eliminara esa amenaza, pero obtuvo sus puntos al eliminar esa amenaza. Entonces, ¿qué hizo? Mató al operador."
Show threadIván Zaera

@bufetalmeida Es un poco como la fábula esa de la fotocopiadora que creo que cuenta el supremacista y racista Nick Bostrom en su libro de Superinteligencia.

El tipo puede ser repugnante pero yo me leí el libro antes de saber que era repugnante y tiene sus puntos, oye...

Jun 2, 2023 at 9:27amWeb