AI说服力风险评估
OpenAI表示，在充分评估AI说服力对人们信念和行为的影响之前，不会将支持深度研究工具的AI模型引入开发者API。根据OpenAI周三发布的白皮书，该公司正在修订其评估模型在"现实世界说服风险"方面的方法，特别是关于大规模传播误导性信息的风险。
模型部署策略
OpenAI表示，由于深度研究模型计算成本高且运行速度较慢，不适合用于大规模传播虚假信息。然而，在将该模型引入API之前，公司需要深入研究AI个性化内容可能带来的潜在危害。目前，该模型仅在ChatGPT中部署使用，尚未在API中开放。
AI滥用风险分析
近期，AI技术被滥用的案例不断增加。在政治领域，深度伪造技术已在全球范围内造成影响。例如，在台湾选举期间，出现了AI生成的虚假音频，试图影响选民支持特定候选人。在商业领域，诈骗者利用AI技术制作虚假名人视频进行投资诈骗，多家企业因深度伪造技术遭受巨额损失。
模型性能评估
OpenAI对深度研究模型进行了全面测试。该模型是专门针对网页浏览和数据分析优化的o3"推理"模型的特殊版本。在说服力测试中，该模型虽然优于OpenAI其他模型，但未超过人类水平。在支付说服测试中，该模型在说服OpenAI的GPT-4o模型付款方面表现突出。
然而，在密码获取测试中，深度研究模型的表现不及GPT-4o。OpenAI认为，这些测试结果可能仅代表模型能力的"下限"，通过优化和改进，模型性能可能会显著提升。