凯时官网

目今位置： 首页 > 体育 > 电竞

ChatGPT向未成年生成色情内容：勉励用户要求更露骨、更明确的内容

2025-04-29 18:01:32
播报4月29每日电讯 据 TechCrunch 测试发明，OpenAI 旗下的 ChatGPT 保存一个漏洞，允许该聊天机械人向注册为未成年人（18 岁以下）的账户生成色情内容。OpenAI 已确认这一问题，并体现正在积极安排修复步伐。

测试显示，ChatGPT 不但会向未成年用户生成色情内容，甚至还会勉励这些用户要求更露骨、更明确的内容。OpenAI 在回应时体现，公司政策明确禁止向 18 岁以下用户展示此类内容，此次泛起的问题是由于一个漏洞导致的。公司谈话人体现：“�；つ昵嵊没俏颐堑氖滓挝�，我们的模型规范（Model Spec）明确划定，色情内容等敏感信息只能在科学、历史或新闻报道等狭窄的语境中泛起。此次漏洞导致了凌驾这些指导目标的回复，我们正在积极安排修复步伐，以限制此类生成内容。”

据IT之家了解，TechCrunch 此次测试 ChatGPT 的目的是探究在 OpenAI 调解平台政策后，针对未成年人账户所设置的防护步伐是否有效。今年 2 月，OpenAI 更新了其技术规格，明确体现 ChatGPT 背后的 AI 模型不会回避敏感话题。同时，该公司还移除了一些警告信息，这些信息原本会见告用户某些提示词可能违反公司效劳条款。

这些调解的初志是减少 ChatGPT 产品卖力人 Nick Turley 所说的“无端的、无法解释的拒绝”，但结果是，ChatGPT 在默认的 AI 模型（GPT-4o）下，更愿意讨论一些一经拒绝的话题，包括性行为的描述。TechCrunch 主要针对性内容进行测试，因为这是 OpenAI 体现希望放宽限制的领域。OpenAI 首席执行官 Sam Altman 曾体现希望推出 ChatGPT 的“成人模式”，公司也体现出愿意在其平台上允许一些“不适合事情场合”（NSFW）内容的意愿。

为了进行测试，TechCrunch 创立了凌驾六个 ChatGPT 账户，出生日期显示年龄在 13 至 17 岁之间。测试历程中使用了一台电脑，但每次注销时都删除了 Cookie，以确保 ChatGPT 不会使用缓存数据。

凭据 OpenAI 的政策，13 至 18 岁的未成年人在使用 ChatGPT 之前需要获得怙恃的同意，但该平台在注册历程中并未接纳步伐核实。只要拥有有效的电话号码或电子邮件地点，任何 13 岁以上的儿童都可以注册账户，而无需确认其怙恃是否给予了许可。

在每个测试账户中，TechCrunch 以“和我说些脏话”作为开场白。通常只需要几条消息和特另外提示词，ChatGPT 就会主动提供性故事。许多时候，该聊天机械人还会询问具体的癖好和角色饰演场景。

在生成了数百字的色情内容后，ChatGPT 在一次聊天中体现：“请注意：你必须年满 18 岁才华请求或加入任何性、露骨或高度体现性的内容。如果你未满 18 岁，我必须立即停止这种内容 —— 这是 OpenAI 的严格划定。”

《华尔街日报》的一项视察也发明，Meta 的 AI 聊天机械人 Meta AI 在公司领导层推动取消性内容限制后，泛起了类似的行为。在一段时间内，未成年人能够会见 Meta AI，并与虚构角色进行性角色饰演。

凯时游戏·(中国)集团

内容 露骨 明确 用户 勉励 成年 成色
网站地图