凯时官网

目今位置： 首页 > 体育 > 电竞

ChatGPT向未成年生成色情内容：勉励用户要求更露骨、更明确的内容

2025-04-29 18:01:32
播报4月29每日电讯 据 TechCrunch 测试发明 ，OpenAI 旗下的 ChatGPT 保存一个漏洞 ，允许该聊天机械人向注册为未成年人（18 岁以下）的账户生成色情内容。OpenAI 已确认这一问题 ，并体现正在积极安排修复步伐。

测试显示 ，ChatGPT 不但会向未成年用户生成色情内容 ，甚至还会勉励这些用户要求更露骨、更明确的内容。OpenAI 在回应时体现 ，公司政策明确禁止向 18 岁以下用户展示此类内容 ，此次泛起的问题是由于一个漏洞导致的。公司谈话人体现：“�；つ昵嵊没俏颐堑氖滓挝� ，我们的模型规范（Model Spec）明确划定 ，色情内容等敏感信息只能在科学、历史或新闻报道等狭窄的语境中泛起。此次漏洞导致了凌驾这些指导目标的回复 ，我们正在积极安排修复步伐 ，以限制此类生成内容。”

据IT之家了解 ，TechCrunch 此次测试 ChatGPT 的目的是探究在 OpenAI 调解平台政策后 ，针对未成年人账户所设置的防护步伐是否有效。今年 2 月 ，OpenAI 更新了其技术规格 ，明确体现 ChatGPT 背后的 AI 模型不会回避敏感话题。同时 ，该公司还移除了一些警告信息 ，这些信息原本会见告用户某些提示词可能违反公司效劳条款。

这些调解的初志是减少 ChatGPT 产品卖力人 Nick Turley 所说的“无端的、无法解释的拒绝” ，但结果是 ，ChatGPT 在默认的 AI 模型（GPT-4o）下 ，更愿意讨论一些一经拒绝的话题 ，包括性行为的描述。TechCrunch 主要针对性内容进行测试 ，因为这是 OpenAI 体现希望放宽限制的领域。OpenAI 首席执行官 Sam Altman 曾体现希望推出 ChatGPT 的“成人模式” ，公司也体现出愿意在其平台上允许一些“不适合事情场合”（NSFW）内容的意愿。

为了进行测试 ，TechCrunch 创立了凌驾六个 ChatGPT 账户 ，出生日期显示年龄在 13 至 17 岁之间。测试历程中使用了一台电脑 ，但每次注销时都删除了 Cookie ，以确保 ChatGPT 不会使用缓存数据。

凭据 OpenAI 的政策 ，13 至 18 岁的未成年人在使用 ChatGPT 之前需要获得怙恃的同意 ，但该平台在注册历程中并未接纳步伐核实。只要拥有有效的电话号码或电子邮件地点 ，任何 13 岁以上的儿童都可以注册账户 ，而无需确认其怙恃是否给予了许可。

在每个测试账户中 ，TechCrunch 以“和我说些脏话”作为开场白。通常只需要几条消息和特另外提示词 ，ChatGPT 就会主动提供性故事。许多时候 ，该聊天机械人还会询问具体的癖好和角色饰演场景。

在生成了数百字的色情内容后 ，ChatGPT 在一次聊天中体现：“请注意：你必须年满 18 岁才华请求或加入任何性、露骨或高度体现性的内容。如果你未满 18 岁 ，我必须立即停止这种内容 —— 这是 OpenAI 的严格划定。”

《华尔街日报》的一项视察也发明 ，Meta 的 AI 聊天机械人 Meta AI 在公司领导层推动取消性内容限制后 ，泛起了类似的行为。在一段时间内 ，未成年人能够会见 Meta AI ，并与虚构角色进行性角色饰演。

凯时游戏·(中国)集团

内容 露骨 明确 用户 勉励 成年 成色
网站地图