Hack the LLM and level up. Fun way to learn about prompt hacking
| GitHub | https://github.com/Verdoso/ |
| Personal web site | https://www.greeneyed.org/ |
| GitHub | https://github.com/Verdoso/ |
| Personal web site | https://www.greeneyed.org/ |
Hack the LLM and level up. Fun way to learn about prompt hacking
@bufetalmeida IMHO, no tiene nada que ver con la inteligencia ni el razonamiento.
Las IAs que se entrenan con refuerzo lo hacen a base de fuerza bruta buscando entre multiples caminos para maximizar puntuaciones.
Si eliminar el objetivo da más puntos que "seguir las ordenes" y "respetar a su bando" entonces la IA está haciendo lo que le mandan.
Si humanizamos el comportamiento, no podremos ver los problemas 🤷♂️
This doesn't look good in APPLE-SA-2023-05-18:
https://support.apple.com/en-us/HT213765
"An app may be able to execute arbitrary code with kernel privileges"
"An app may be able to gain root privileges"
"An app may be able to modify protected parts of the file system"
...and last, but not least...
"Processing maliciously crafted web content may lead to arbitrary code execution. Apple is aware of a report that this issue may have been actively exploited."
Seems like a good time to update your Apple devices
@izaera @moribundo Sí, sí, no digo que no haya nada que hacer o que está bién.
Simplemente que en la lista de preocupaciones no lo veo muy alto IMHO.