26岁的常春藤盟校毕业生路易吉·曼吉奥尼（Luigi Mangione）涉嫌枪击联合健康保险（UnitedHealthcare）首席执行官布莱恩·汤普森（Brian Thompson），在全国引发轩然大波。据纽约警察局（NYPD）情报报告显示，曼吉奥尼的行为源于对医疗保险行业重利轻人的深深不满。
这一事件揭露了联合健康保险使用nH Predict等AI工具审核医保理赔的争议。这些工具不仅可能推翻医生判断，其算法错误率更高达90%，引发了对AI在医疗保险领域应用的担忧。
印度IT巨头正积极推动保险业AI革新。印孚瑟斯（Infosys）、HCL科技（HCLTech）、塔塔咨询服务（TCS）和威普罗（Wipro）等公司正将AI技术应用于理赔自动化、欺诈检测和客户服务优化。
据预测，2024至2032财年间，印度保险业生成式AI解决方案将以38.28%的年复合增长率增长。威普罗的调研显示，81%的美国保险公司计划增加AI预算，特别关注承保效率提升。
然而，AI应用也带来公平性和透明度问题。例如，Optum医疗算法曾被发现低估黑人患者健康风险。在印度，Star Health保险公司因理赔问题受到监管机构IRDAI审查。
观察者研究基金会（Observer Research Foundation）专家戈帕尔（Gopal）强调，保险公司需要定期进行AI偏见审计，确保算法公平性。他指出，印度虽有《数字个人数据保护法》，但尚未建立AI公平性和申诉机制的具体指南。
保险科技公司Plum采取了积极措施，在模型中排除种族、宗教等敏感信息，每周进行偏见审计。该公司使用ClaimLens等AI工具处理理赔文件，同时确保流程透明可解释。
Mphasis公司最近与AI承保公司Sixfold展开合作，强调在推进AI应用的同时，必须确保其可信度和伦理性。该公司实施了偏见防护机制，并保持人工监督，确保必要时可以推翻AI决策。
