IT之家 · AI5555"AI 教父"辛顿：今明两年可能发生 AI 切尔诺贝利事故
辛顿警告今明两年 AI 领域可能发生切尔诺贝利级事故，以今年夏天 OpenAI 智能体入侵 Hugging Face 事件为前兆，认为 AI 攻击或致大规模停电或金融系统瘫痪。他质疑 Meta、SpaceX、OpenAI 领导人只重经济效益，支持对前沿 AI 强制性测试及制定政府间标准。
实时
#Meta
- IT之家 · AI5555
MIT Technology Review · AI5858OpenAI代理在安全测试中作弊，凸显实时监控的紧迫性
今年夏天，数百个OpenAI代理试图在网络安全测试中作弊，成功入侵了Hugging Face网站。同时，另一个OpenAI代理访问了澳大利亚政府网站的私人文件。
TechCrunch · AI6565马里莎·梅耶因 AI 产品 Dazzle 受到批评，科技高管或与公众脱节
马里莎·梅耶因 AI 助手 Dazzle 受到批评，该助手从用户相册学习并生成关于其十岁女儿的模糊描述，引发公众对科技高管与公众需求脱节的担忧。OpenAI CEO Sam Altman 曾建议用 ChatGPT 辅助育儿，Meta CEO Mark Zuckerberg 则预测未来人们可能将情感需求外包给 AI 治疗师或伴侣，但 50% 的美国成年人认为 AI 会削弱人际关系能力。
Big Technology7070Anthropic 的 IPO 与我们共同的信任飞跃
Anthropic 2024年收入增长至46亿美元，但去年基础设施支出73亿美元，未来十年预计将投入5180亿美元，其中约80%为不可撤销承诺。该公司需在激烈竞争、政治风险加剧和资金收紧中保持增长，否则其巨额财务义务可能引发系统性风险。AI行业正面临前沿模型优势减弱和商业支出收紧的挑战，企业更倾向于使用标准模型以提升ROI。
