AI in the enterprise. Claude gave fundamentally wrong instructions to fix an issue, the customer followed the instructions without thinking, trashing a server.

Customer be like: "It so confidently and beautifully put together an action plan on how to fix this."

Product support: "it was completely wrong."

@leyrer kundensupport macht spass wenn ein kunde ein verhalten vom produkt einfordert, welches nicht existiert. man fragt den kunden woher er die idee hat, und er sagt chatgpt.

leute denken die quelle chatgpt ist genauso verpflichtend wie die webseite des herstellers selbst.

ich seh schon wie man irgendwann sein produkt designed wie chatgpt denkt das es ist, nur um diese leute ruhig zu stellen