现在的 AI 聊天应用可能会制造更严重的“信息茧房”
以往观点的讨论,参与方都是人,人去决定是否执行、人去承担后果。AI 不是人,它就成了特例,交流过程不再进入社会而是限制在 AI 与人之间。一个大概率会赞同用户观点的 AI,与单方面信任 AI 的人类,让对话没有参与到社会中的必要,成了形成“各执己见”最好的推手。像迷恋与魔镜对话的巫婆,在不断加强的自我认同中堕入偏执。
关于这个想法,我很早就察觉到,可是总会很难捕捉到语言去描述。即便现在我也没有很好地将自己所想的描述出来。https://x.com/cattenlinger/status/2016800166574223749
在好几次跟某些朋友聊天,频繁听到“AI 是这么说的”的时候,感觉自己就是单纯的一个用以验证 AI 与现实差距的锚点,便开始看见这个局面。


