心流logo

AI精准定位照片细节引发隐私担忧

新模型功能介绍

专家提醒,社交媒体图片分享需要格外谨慎。OpenAI上周发布的最新AI模型引发了一股机器人驱动的地理定位热潮,即利用AI技术推断照片拍摄地点,这可能引发严重的隐私安全问题。

OpenAI的新型o3和o4-mini模型具备图像"推理"能力,这意味着它们具备全面的图像分析能力。这些模型可以裁剪处理图像、放大细节、识别文字等。结合主动网络搜索功能,它们成为了强大的图像定位工具。

OpenAI表示:"这些模型首次能够将图像直接整合到思维链中。它们不仅能看到图像,还能用图像思考。这开启了视觉和文本推理相结合的全新问题解决方式。"

实际应用案例

特别是o3模型的早期用户已经验证了这一功能。社交媒体上出现了大量用户挑战新ChatGPT模型玩地理猜谜游戏(GeoGuessr)的帖子。例如,仅凭一张书架上的书籍特写照片,系统就准确识别出是墨尔本大学的图书馆。另一个案例显示,模型通过分析车辆方向盘位置和行驶方向,成功推断出照片拍摄于南美洲的苏里南。

这些模型能详细解释其推理过程,包括发现的线索及解读方式。然而,今年早期研究表明,模型解释的推理过程并不总是反映其实际的认知过程。Anthropic研究人员在追踪Claude模型完成数学任务的内部步骤时,发现与模型声称的方法存在显著差异。

隐私风险分析

这凸显了社交媒体信息分享的安全隐患。通过分析用户的社交媒体动态,ChatGPT不仅能确定位置,甚至可能预测频繁发帖用户的未来行动轨迹。

对于这些担忧,OpenAI回应称:"o3和o4-mini为ChatGPT带来的视觉推理能力在无障碍、研究或紧急响应等领域具有重要价值。我们已采取措施训练模型拒绝私人信息请求,添加了防止识别个人隐私的保护机制,并积极监控相关违规行为。"这表明AI公司已意识到相关问题,但目前尚未证实这些新模型能有效拒绝提供地理位置信息。