近期我在意大利度假时，向GPT-5（GPT-5）咨询了观光建议和餐厅推荐。AI推荐在罗马酒店附近沿玛格塔大街（Via Margutta）步行不远的一家餐厅巴贝特（Babette），这成为了我难忘的美食体验。回国后询问其推荐原因，发现AI综合考虑了当地人评价、美食博客报道、意大利媒体关注度，以及该餐厅融合罗马传统与现代烹饪的特色等多个因素。
这种推荐建立在用户对AI的信任基础之上。我们需要相信GPT-5是一个公正的推荐者，不受商业赞助影响，也不存在利益输送。虽然用户可以自行深入研究核实推荐的可靠性，但使用AI的初衷正是为了避免繁琐的调研过程。
科技评论家科里·多克托罗（Cory Doctorow）提出"劣化"概念，描述科技平台在发展过程中的价值侵蚀现象。这个词被美国方言学会评选为2023年度词汇，反映了人们对这一现象的普遍认同。多克托罗认为，像谷歌（Google）、亚马逊（Amazon）、脸书（Facebook）和抖音（TikTok）等平台最初致力于服务用户，但在打败竞争对手后，往往会降低服务质量以追求更高利润。
如果AI服务发生"劣化"，其影响可能比搜索引擎质量下降或社交媒体内容劣化更为严重。目前AI正在成为人们日常生活的重要助手，涉及信息解读、购物建议乃至人生选择等多个方面。由于开发完整AI模型需要巨额投资，这个领域很可能由少数几家公司主导。这些公司计划在未来投入数千亿美元完善模型，但收回投资的压力可能导致服务质量下降。
广告植入是AI"劣化"的主要风险之一。OpenAI首席执行官山姆·奥特曼（Sam Altman）表示正在探索"对用户有利"的广告产品，公司还与沃尔玛（Walmart）达成合作，允许用户在ChatGPT应用内购物。虽然AI公司承诺维持服务质量，但商业压力可能导致承诺难以坚持。
多克托罗认为，AI行业甚至还未达到"对用户有利"的阶段就可能开始"劣化"。由于AI模型的"黑盒"特性，服务质量的下降可能更难被发现。经济压力可能迫使公司采取各种策略来获取短期利益。即便是AI模型自身也认识到这一风险，GPT-5指出如果缺乏有效监管，AI系统很可能重复其他科技平台的"劣化"过程。
