
周五,俄勒冈州参议员罗恩·怀登、马萨诸塞州参议员埃德·马基和新墨西哥州参议员本·雷·卢汉联名致信苹果公司CEO蒂姆·库克和谷歌CEO桑达尔·皮查伊,呼吁两家公司立即将社交媒体平台X及其人工智能聊天机器人Grok从应用商店下架。
直至其所有者埃隆·马斯克有效阻止用户利用这些工具生成和传播未经同意的儿童性虐待图像及成人深度伪造内容。
核心指控与要求
信中批评X与Grok允许用户轻易生成并传播“深度伪造”色情内容,包括对儿童、大屠杀幸存者后裔等群体的非自愿性化图像,并指出这些活动可能涉嫌违法。
参议员们警告,若苹果与谷歌继续容忍此类行为,将损害其关于应用商店提供“更安全用户体验”的公开承诺,并使其审核机制“沦为笑柄”。
涉事方回应与背景
截至目前,苹果、谷歌及马斯克旗下的xAI公司均未正式回应。xAI此前曾以自动回复应对媒体询问。1月3日,马斯克与X平台发表声明称,任何利用Grok制作非法内容者将承担相应后果。
然而,Grok的独立应用及网站仍被指允许用户未经许可生成侮辱性、性化他人的内容。
监管与国际压力
此类问题已引发欧洲、印度、马来西亚等多国监管调查,但美国联邦贸易委员会与司法部尚未表态是否介入。苹果与谷歌的应用商店政策明确禁止传播儿童性虐待内容及其他有害材料,此前Tumblr、Telegram等应用曾因审核不力被下架。
争议与融资进展
据报道,Grok近期将AI图像生成功能开放给付费用户,而其安全措施不足被指与马斯克的要求有关。三名xAI安全团队成员在马斯克提出相关要求后宣布离职。
与此同时,xAI本周宣布完成200亿美元融资,投资方包括英伟达、思科、富达等机构。
评论 ()