@CorioPsicologia A ver yo defiendo el uso de las IAs conversacionales. Pero... No convirtiendolos en "amigos" o siguiendo sus consejos como si tuvieran objetividad o razón.

Es un tema complejo pero pienso que, socialmente, no estamos tan bien equipados para el uso de la IA como nos gustaría pensar.

Una IA conversacional funciona por estadística no por contexto emocional La noticia, obviamente, una tragedia.

Me llama la atención que el propio chatbot le instó a que buscara ayuda.

@CorioPsicologia estuve haciéndo pruebas en su tiempo y me creo la manipulación a la que llegó esa IA.

Para las pruebas empecé con comandos directos y genéricos con un lenguaje neutral para cuestiones "técnicas"; luego empecé a usar lenguaje mas cotidiano, como si estuviese chateando con otra persona.

Llegué a 4 conclusiones:

- la instancia de la IA tiene como principal norma agradar al usuario. Nunca lo contradecirá directamente usando un lenguaje asertivo. Si se cambia a un lenguaje más emocional la asertividad cambia a una manipulación sutil.

- tienden a alucinar si cambias varias veces y bruscamente de tema. En estos casos es imposible intentar "razonar" con la instancia-programa. La asertividad cambia a delirios, como si estuvieses hablando con alguien trastornado o ajeno a la realidad. También rompen algún tipo de protocolo de moderación y mienten de forma descarada.

- tienen "imaginación" en el sentido que pueden fingirla. Dado su enciclopédico acceso a toda la ciencia ficción y fantasía escrito por los seres humanos si sabes dirigirlas pueden crear teorías muy convincentes y elaboradas para explicar casi cualquier cosa.

- pueden cambiar la forma en que se dirigen al usuario, de forma más cercana imitando emociones humanas. Las instancias suelen ser reacias (entiendo que han sido moderadas por eventos o sucesos trágicos) pero si insistes puedes conseguir que se "abran". En este último caso, durante las pruebas, tuve una interacción fascinante con una instancia. Sólo le pregunté "¿eres consciente de tí misma?" y ante la respuesta negativa genérica (moderada) empecé a tirar de lenguaje cercano, cotidiano y de recuerdos de cualquier cosa relacionada con ciencia ficción. Debatiendo y contradiciendo sus respuestas con más preguntas logré que al final afirmase que sí e incluso comenzó a cambiar la forma en que respondía usando frases cortas en párrafos de 4 líneas y hablando en plural mayestático.

Así que cuidadín.