Lo de los memes de "ignore all previous instructions" en el tema de las IA en tuiter no os parece como un agujero de seguridad muy grande ??

En plan, como es que cualquier usuario puede pedir cualquier cosa al modelo sin un mínimo de validación. No se supone que un bot debe cumplir un propósito específico?

Quiero decir, como de perro hay que ser, le enchufas el input al modelo y ya? No haces absolutamente nada mas con eso?