Gen AI 的目的和可持续的商业模式之一就是做bot制造大量虚假信息换流量,CCP用Open AI进行舆论战属于business model内的使用方式。Gen AI也制造了极其多符合右翼宣传策略的虚假内容

没必要因为Open AI曝光CCP用Gen AI进行舆论战就觉得Open AI是个好公司,符合公司的政治站队和商业利益罢了。

https://cdn.openai.com/pdf/df438d70-e3fe-4a6c-a403-ff632def8f79/disrupting-malicious-uses-of-ai.pdf

Open AI的president和co-founder们投资了Super PAC,目的是打压一切说要规范Gen AI的政客,影响中期选举,让川普成为唯一能制定关于Gen AI法规的人。
反对你的敌人,不代表着这个人就是好人

五角大楼现在和Anthropic有合同,可以使用其Gen AI技术(Claude)。现在五角大楼要求进一步扩展这个合同,用于导弹和监控系统。Anthropic提出两点要求,其中一点是“不可以在未经人类核实的情况下直接用Gen AI决定轰炸目标”,现在五角大楼不同意这点,威胁Anthropic如果不妥协,就要终止合同,或是强行把技术夺过来(通过Defense Production Act,冷战时期一项允许总统强行征用技术与资源的法律)

在2023年开始的加沙种族灭绝中,Gen AI(GPT4)技术已经在以色列被用来用于监控和军事系统中,并决定平民作为轰炸目标,且不需要经过人的核查(来源见No Azure For Apartheid的报告)。

在前几日新德里的“Express Adda”会议中,Open AI的人CEO为Gen AI浪费巨大能源和水资源训练给出的辩解是:“相比之下,培养一个人需要二十年……” 我们人类对于Tech Bro来说只是商品,只有生产价值。

我并不认为Gen AI技术是中立的(因为来源就是有问题的,训练材料基于盗窃和环境破坏)。但退一万步说,假设这个前提成立,很多人的argue point是技术是中立的,只是需要规范。

但事实上,川普政府通过了禁止各州regulate Gen AI的行政令,Open AI的president给川普捐了25 Millions,并大力支持Super PAC,希望可以打压一切说要规范Gen AI的政客,让川普成为唯一能制定关于Gen AI法规的人。

这是我觉得Gen AI非常cringe,且拒绝使用。在Gen AI Bro眼里,我们都是可以为了效率牺牲的耗材。在一个威权政府下,也不可能存在所谓好的Gen AI公司。

@Carey 來源有問題這一點,今天看資料得知右和極右網站幾乎沒有限制地歡迎AI bot來抓自己網站去訓練是之前不知道的( https://www.psgconsulting.com/research-publications/potential-risks-of-ideological-skewing