英格兰和威尔士高等法院（High Court of England and Wales）近日发布重要裁决，要求律师们采取更严格措施防止在工作中滥用人工智能。维多利亚·夏普（Victoria Sharp）法官在一份将两起近期案件联系在一起的裁决中指出，像ChatGPT这样的生成式AI工具"无法进行可靠的法律研究"。这些工具虽然能对提示做出看似连贯且合理的回应，但这些回应可能完全不正确，甚至会自信地做出完全不真实的断言。
在首个案例中，一名代表向银行索赔当事人的律师提交了包含45个引用的文件，其中18个案例完全不存在。更严重的是，许多其他案例引用内容与实际不符，既不支持相关论点，也与申请主题毫无关联。
第二个案例中，一名代表被驱逐伦敦住所当事人的律师在法庭文件中引用了5个不存在的案例。尽管该律师否认使用AI，但承认这些引用可能来自"谷歌或Safari"中的AI生成摘要。
夏普法官强调，这并不意味着完全禁止律师使用AI进行研究，但他们必须履行职业责任，在专业工作中使用前通过权威来源核实研究的准确性。法院对不履行职责的律师拥有多种处罚权力，从"公开训诫"到施加费用、藐视法庭程序，甚至可能移交警方处理。
这份裁决将转发给大律师公会（Bar Council）和律师协会（Law Society）等专业机构。两名涉案律师已被转介或自行转介给专业监管机构。夏普法官表示，虽然在第二起案例中法院决定不启动藐视法庭程序，但这"不能成为先例"，律师如不遵守相关职业义务将面临严厉制裁。
