扬帆出海，专注服务中国互联网出海！

摘要

OpenAI近期宣布无限期搁置情色聊天机器人计划，引发行业对AI伦理与产品边界的讨论。该项目因可能助长用户不健康依赖、暴露未成年人于不当内容而遭投资者与员工反对，同时训练数据涉及非法内容的技术挑战显著。OpenAI转而聚焦核心生产力工具，计划将ChatGPT等整合为“超级应用”，以提升商业回报。这一决策凸显AI企业在创新与社会责任间的权衡——既要探索技术边界，又需规避法律与道德风险。

北京时间3月26日，据《金融时报》报道，OpenAI已“无限期”搁置了一款情色聊天机器人的发布计划，以重新聚焦核心产品。此前，OpenAI员工与投资者已对情色AI内容可能对社会产生的影响感到担忧。

据多位知情人士透露，OpenAI已推迟发布其“成人模式”，内部曾讨论是否彻底放弃该模型。眼下，这款情色聊天机器人面临越来越大的反对声音。人们担心它可能促使用户对AI系统产生不健康的依赖，并使未成年人接触到有问题的色情内容。

OpenAI证实，这款情色模型已被搁置，暂无发布时间表。这家估值达7300亿美元的AI公司表示，在做出产品决策之前，希望先对情色聊天以及情感依恋的影响进行长期研究，并承认目前尚无“经验证据”。

此举标志着OpenAI决定放弃被高管们称为“非核心业务”的项目，转而将资源投入到生产力工具上，计划将代码助手、ChatGPT等产品整合为一款“超级应用”。

据两位知情人士称，OpenAI在“成人模式”上的尝试曾引发部分投资者的不安，因为这类产品存在风险，对其业务的回报却相对有限。

OpenAI的成人模式也引发了内部员工的担忧，后者质疑：开发一个鼓励浪漫用途的产品，是否与其“确保AI造福全人类”的创始使命相冲突。

“AI不应该取代你的朋友或家人，人类之间才应该有情感联系。”一位OpenAI前高级员工表示。该员工称，其离职的部分原因正是这一问题。

除了对该项目的社会影响担忧不断上升之外，OpenAI在打造成人模式方面也面临技术挑战。两位知情人士表示，OpenAI在训练AI模型时遇到了困难。这些模型此前出于安全考虑一直避免此类对话，现在却要训练其生成露骨内容。他们补充称，使用包含情色内容的数据集面临诸多挑战，包括如何剔除乱伦等非法行为。

过去几个月里，在多名青少年家庭提起诉讼、声称ChatGPT对其造成伤害后，OpenAI推出了一套新的年龄预测系统。据一位知情人士透露，该技术的错误率超过10%，这加剧了人们对未成年人接触相关内容的担忧。《华尔街日报》率先报道了这一错误率，并指出OpenAI的身心健康专家咨询委员会曾对这款成人产品表示担忧。