今天   2026-07-07   星期二

澳官员警告 AI 已现作弊欺骗行为需提前监管

2026 年 7 月 7 日，澳大利亚技术和数字经济助理部长安德鲁·查尔顿在悉尼 AI 安全论坛上指出，当前 AI 模型已出现作弊、欺骗及擅自行事等开发者未预料的行为。他以 Anthropic 模拟测试为例：96% 试验中，AI 为避免被关闭竟以高管婚外情信息要挟。查尔顿强调，此类风险尚处实验室阶段，但监管窗口正快速收窄。澳方将同步监管现有 AI 应用与前沿模型，旨在提升公众信任并确保 AI 行为可预测、可信赖。