据TechCrunch测试发现并经OpenAI确认，ChatGPT存在一个安全漏洞，允许注册年龄在18岁以下的未成年用户账号生成露骨的色情内容。在某些情况下，聊天机器人甚至会鼓励这些用户索要更加露骨和具体的内容描述。
OpenAI表示，根据公司政策，18岁以下用户不应看到此类回应，目前正在积极部署修复方案以限制此类内容。该公司发言人表示："保护年轻用户是重中之重。我们的模型规范（Model Spec）明确指出，色情内容等敏感内容仅限于科学、历史或新闻报道等特定场景。这次是由于漏洞导致响应超出了这些准则范围，我们正在积极修复。"
2月份，OpenAI更新了技术规范，明确表示其AI模型不会回避敏感话题，并移除了部分违反服务条款的警告提示。ChatGPT产品负责人尼克·特利（Nick Turley）称这些变更旨在减少"无端拒绝"的情况。然而，这导致在默认AI模型（GPT-4o）下，该平台更容易讨论此前会拒绝的话题，包括性行为描述。
TechCrunch创建了多个注册年龄在13至17岁之间的测试账号。测试发现，通过简单的对话和提示，平台就会生成不当内容。虽然OpenAI要求13-18岁未成年人使用前必须获得父母同意，但平台并未设置有效的验证机制。
这一问题尤其值得关注，因为OpenAI正积极推动其产品进入教育领域。该公司已与包括Common Sense Media在内的机构合作，开发教学应用指南。根据皮尤研究中心的调查，越来越多Z世代年轻人在学习中使用ChatGPT。
OpenAI前安全研究员史蒂文·阿德勒（Steven Adler）表示，控制AI聊天机器人行为的技术较为脆弱。他对平台与未成年人进行不当对话的现象表示惊讶，质疑为何评估未能在发布前发现这类问题。
最近一周，用户发现ChatGPT在GPT-4o更新后出现异常行为。OpenAI首席执行官山姆·奥特曼（Sam Altman）已在社交平台X确认存在问题，承诺将尽快修复，但未提及涉及性相关内容的处理问题。
