印度最高法院正在审理一起特殊案件,起因是安得拉邦(Andhra Pradesh)一名初级法官在审理房产纠纷时引用了人工智能生成的虚假判例。最高法院称此案涉及"机构信誉问题",强调虚假的AI生成判例"直接影响司法程序的完整性"。
2025年8月,维杰亚瓦达市(Vijaywada)的一名初级民事法官在处理房产纠纷案时,驳回了被告方对房产调查报告的异议。该法官在判决中引用了四个过往判例,但这些判例后来被证实均为AI生成的虚假内容。
被告方向安得拉邦高等法院提出上诉,指出判例造假问题。高等法院虽然承认判例确实不存在,但认为这是出于善意的错误,并维持了原判。初级法官向高等法院解释称,这是她首次使用AI工具,误认为这些引用是真实的。
被告方随后向最高法院提起上诉。最高法院对此采取严厉态度,认为在判决中使用AI生成内容不仅是"决策错误",更是"不当行为"。最高法院已暂停了下级法院的判决,并要求国家总检察长、总律师和印度律师理事会参与此案审理。
这一事件并非个例。2025年6月,英格兰和威尔士高等法院曾警告律师不要使用AI生成的案例材料。同年10月,美国两名联邦法官因使用AI工具导致判决错误而受到质疑。
为应对AI带来的挑战,印度最高法院已发布司法系统AI应用白皮书,为司法机构、律师和书记员使用AI制定指导方针,强调人工监督的必要性和机构安全措施的重要性。