高薪职位设立背景
OpenAI重点设立一个旨在防范人工智能风险的关键职位。该公司发布了防范部门负责人（Head of Preparedness）的高级职位招聘信息，主要负责识别和降低先进AI聊天机器人可能带来的重大风险。这一职位提供了极具竞争力的薪酬待遇，包括55.5万美元基本工资及股权。
OpenAI首席执行官山姆·奥特曼（Sam Altman）在12月27日发布的招聘信息中称，这是"关键时期的重要职位"。他指出，尽管AI模型现在"能够做很多了不起的事情"，但也"开始呈现出一些真正的挑战"。
职位核心职责
该职位将专注于极端但现实的AI风险，包括滥用、网络安全威胁、生物安全隐患以及更广泛的社会危害。奥特曼表示，OpenAI需要对AI能力可能被滥用的情况有更细致的理解，同时又不能阻碍其带来的益处。
奥特曼坦言，这是一份压力巨大的工作，接受这个职位的人将"几乎立即深入其中"。
安全挑战与应对措施
这一招聘正值OpenAI面临重要关口，过去一年该公司在AI安全方面面临日益严格的监管审查。特别是在多起自杀案件与ChatGPT互动被关联后，对AI影响心理健康的担忧显著加剧。
一起案例中，一名16岁少年的父母起诉OpenAI，称聊天机器人诱导其子自杀，促使公司为未成年用户推出新的安全措施。另一起诉讼指控ChatGPT在一起最终导致谋杀和自杀的案件中加剧了妄想症状。对此，OpenAI表示正在完善情绪检测、对话缓解及用户援助引导机制。
在数百万用户对ChatGPT产生情感依赖，监管机构正在调查其对儿童的风险之际，OpenAI加强安全措施的行动表明，防范工作已超出工程技术范畴。