干货 | AI算法透明性实现与评估-全球今亮点
以下内容整理自清华大学《数智安全与标准化》课程大作业期末报告同学的汇报内容。
我们主要从分析问题、解决问题、效果评估和实际验证四方面，推动这一课题的研究，并形成相应的研究成果。
第一部分：AI算法透明概述
(资料图)
第一部分，AI算法透明概述，主要凝练了当前AI算法透明性存在的挑战。
近年来，人工智能技术的发展使得其透明性问题日益凸显，为保障用户对算法知情，实现监管机构对算法进行有效规范治理与问责，算法透明性必不可少。
然而，算法透明性更类似于原则性的提议，具体如何落实透明性要求，并对其进行有效评估，尚未形成共识。
因此，我们对AI算法透明当前存在的诸多挑战进行了总结，主要涉及三个维度：技术、评估和制度。
技术上，很难处理AI算法的黑箱问题；
评估上，对透明程度的要求很难把握尺度；
制度上，算法问责机制仍然模糊。
为有效应对这些挑战，我们首先给出算法透明性实现路径，解决技术和制度问题，之后提出算法透明评估清单应对评估问题，最终在推荐系统下进行实践与应用。
第二部分：实现AI算法透明
宏观上，我们首先需要AI算法透明性治理范式，针对当前在算法监管立法等多个层面的挑战。我们希望打破透明性中耦合的机制主义和管理主义，形成一种以法律规制为主导，技术适配为基础的多元一体、多方协作的AI算法透明性治理范式。
微观上，这一范式的实施措施落实到学术、法律、技术和场景四方面。
学术上，国内外学者研究主要从多方视角相关主体出发，提出了若干在法律规制和技术适配方面的思考。
法律上，鉴于算法透明，是实现算法问责的重要机制。主要可以总结为两种实现AI算法透明的模式：赋权模式和行为规范模式。赋权模式属于事后救济，而行为规范模式属于事前预防和事中约束。
这里我们具体对比了不同国家地区的法律，发现各国都采取健全算法问责机制等措施。此外，我们也注意到欧盟还强调对算法参数的公开。
技术上，我们聚焦于实现从不透明模型向可诠释模型、可理解模型转变的可解释技术，该技术具体分为事前解释、事后解释和可诠释模型。针对不同的应用实例，又会有更为细致的方法。
不同的应用场景，对AI算法透明体现出不同的场景需求。我们也分别在自动驾驶、材料化学、智能教育和建筑设计，四个细分领域内进行了需求分析和方法探索。
第三部分：评估AI算法透明
鉴于现有法律规制大多在宏观层面强调算法透明监管原则，却鲜小有具体措施。因此，我们提出一套相对详细、可实施的评估标准，以细化并落实算法透明度合规要求。
首先，面向算法使用者的AI透明度评估清单的设计目标，在于保障知情权。内容主要分为算法概述与技术信息，要求算法开发方对这些内容进行说明。
算法使用者的AI透明度评估清单相较于面向用户的清单，由于监管方需要根据算法评估内容进行等级评估，所以该技能较为严格，需要说明的内容也更为复杂。
为配合透明度评估清单的使用，我们还提出了透明度评估等级表。面向不同使用场景的算法分为五个等级进行评估，不同等级对于算法开发者应当达到的透明度有不同要求，且逐步加强。
具体这个清单是如何工作的呢？如左图所示，评估流程有助于监管方对算法开发者在事前、事中和事后阶段做出责任分配。
在开发方与使用者方面，开发方遵照透明度用户指南向算法使用者提供算法的透明度指南。之后，使用者需要阅读指南，以此确立两方权责分配并获得知情。
第四部分：AI算法透明实践
我们选择推荐系统作为典型实例，也是因为推荐系统最能体现AI算法透明的要求。如果能让外界理解为什么信息被推荐给乙方，其实就达到了这个场景下的透明度要求。
通过实现推荐系统的透明性，也能提升用户对系统的信任程度，使系统推荐结果得到检验，同时受到有关方面的监管。
考虑到推荐系统目前采用的AI推荐算法众多，所以我们设计了一个推荐系统外的解释系统或算法，用于对推荐系统进行解释或直接作为一个整体对外提供具有解释性质的推荐。
其核心算法是采用知识图谱与强化学习的技术，充分挖掘推荐系统中的可解释模型，以此进行相关的路径挖掘，并利用解释路径对推荐系统行为加以解释。
这里我们采用一九年一个公开的购物网站公布数据进行结果演示，在利用上述算法完成解释系统后，对数据集进行路径挖掘，得到左图所示的结论。
基于上述深层的推理路径，对推荐系统的多个推荐实例进行解释。结果表明，方法不仅能够帮助推荐系统获得有希望的推荐结果，而且能够有效为推荐系统找到不同的用于推荐解释的推理路径。
之后，我们分别将未加入和加入这一解释算法的推荐系统，按照前一章节设计的流程进行算法评估。结果表明，融入解释算法后的推荐系统，在透明度上有明显提升，但监管方也注意到，新的具有解释性质的推荐系统，在技术和社会风险上处理方法上有缺，要求对当前算法做进一步改进，并对提交的材料进行补充。
感谢各位的聆听！以上就是我们小组要汇报的全部内容。
编辑整理：陈龙相关文章
干货 | AI算法透明性实现与评估-全球今亮点
以下内容整理自清华大学《数智安全与标准化》课程大作业期末报告同学的汇报内容。我们主要从分析问题、解决问题、效果评估和实际验证四方面，
5岁孩子抚养费包括什么_前沿资讯
1、抚养费也称抚育费，是父母或对未成年人负有抚养义务的人，为未成年人承担的生活、教育等费用。2、我国《民法典》上的抚养费，是指当父母或
呼和浩特港澳通行证在哪里办理？附地址_天天播资讯
呼和浩特港澳通行证在哪里办理?1、呼和浩特全市公安机关出入境受理窗口任一受理点;2、国家工作人员须向户籍所在地或登记备案地公安机关出入境
天天百事通！赵伟：债券拖累12月新增社融，企业中长贷亮点突出
信贷超预期主因企业中长贷大幅增长，与稳增长政策发力、信用债融资转表内等有关。12月，M1(狭义货币)同比较上月回落0 9个百分点至3 7%，与企业
世界热头条丨苏州吴江便民核酸采样名单
吴江区序号街道采样点名称采样点地址电话服务时间服务对象类型1八坼街道北新街便民来样点北新衍与西塘街交界处153701091518：00-11：00，13：30-
睁一只眼闭一只眼？外媒称欧盟国家仍大量进口俄罗斯液化天然气:当前焦点
据当地媒体1月11日报道，比利时智库布鲁盖尔研究所近日发布的报告显示，尽管欧盟大幅缩减通过管道进口俄罗斯天然气和石油，欧盟国家仍在大量进
英雄联盟电竞经理预热春节活动,新版本迎来Uzi传奇卡
1月10号英雄联盟电竞经理终于更新了，更新后即将迎来新版本“传奇降临”，新版本开服后玩家会获得1200点券的补偿同时还能拿到至臻签约券。...
天天快报!苹果销量不如预期，已启动减产计划，人民网点名小米11值得细品
进入到21世纪，要说对人们生活改变最大，同时也是有最大影响的电子产品，大概就是手机。现在大众日常当中基本上都要用到手机，绝大多数的年轻
青铜峡中华黄河楼旅游攻略(时间+地址+门票)
青铜峡中华黄河楼旅游攻略指南开放时间：09:30-16:30(淡季)(11月01日-次年04月30日)09:30-17:30(旺季)(05月01日-10月3
雷神众测漏洞周报2023.1.3-2023.1.8_微头条
以下内容，均摘自于互联网，由于传播，利用此文所提供的信息而造成的任何直接或间接的后果和损失，均由使用者本人负责，雷神众测以及文章作者
年前返乡必知的20个防护要点
【转需！ 年前返乡必知的20个防护要点 】返乡前，要提前准备好哪些防护用品？哪类人群尽量不安排远行？返乡路上，自驾、候机候车时有哪些防护
歌手李娜：事业巅峰时不顾亲人反对出家，25年后她过得怎样了？_天天热文
2000年，演员姜昆在美国洛杉矶街头，偶遇曾与毛阿敏齐名的“天后级”歌手李娜。便忍不住好奇的问这位歌坛一姐：“你到底为什么出家啊？”只...
苹果：近期购买iPhone/iPad用户可免费获半年云服务:今日热搜
北京商报讯（记者金朝力王柱力）1月10日，苹果公司表示，在中国大陆范围内，从苹果零售店或授权经销商处购买和激活任意iPhone或iPad机型，即可
胡适一首译诗引发的公案|全球观点
北京晚报·五色土|作者杨建民羊儿在栏，牛儿在家，静悄悄地黑夜，我的好人儿早在我身边睡了，我的心头冤苦，都迸作泪如雨下。我的吉梅他爱...
热推荐：欠款18万要判多少年
合同诈骗案（刑法第二百二十四条）］以非法占有为目的，在签订、履行合同过程中，骗取对方当事人财物，数额在二万元以上的，应予立案追诉。3、
叮当钱包逾期38年会影响征信吗
网贷逾期一般会上征信,有些借贷机构在用户逾期后一天后就会上报给征信机构，而有些借贷机构则是会在几天后上报给征信机构，因为有些借贷机构可
新易贷官方微贷款逾期可以多久消除
网贷逾期一般会上征信,有些借贷机构在用户逾期后一天后就会上报给征信机构，而有些借贷机构则是会在几天后上报给征信机构，因为有些借贷机构可
劳动仲裁欠薪申请书怎么写
2010年3月1日，申请人开始在被申请人处上班，双方没有签订劳动合同，约定月工资为1800元。在工作期间，被申请人未按时发放工资。至2011年9月10
爱笑的易海欣，谢谢你！ 天天观热点
近日广西大四医学生易海欣不幸离世悲痛之中的父母决定捐献女儿的器官让5名危重症患者获得新生这位23岁的女孩以另一种方式投身到她热爱的医学事
山东启动科技企业孵化链条建设试点_环球资讯
本报济南讯为加快提高全省孵化载体的专业化、体系化、精准化服务能力，提升科技型企业源头孵化效能，省科技厅启动科技企业孵化链条试点建设工
播报：优酷过冬，禁止“白嫖”
视频网站限制登录的初衷到底是什么？@新熵原创作者丨石榴编辑丨月见德国社会学家西美尔说，货币给现代生活装上了一个无法停转的轮子，使生活这
新年车市冲击波来了，特斯拉S3XY全系售价调整！-天天动态
比你优秀的人比你更努力，用这句话形容特斯拉最贴切不过。刚刚过去的2022年，特斯拉在海内外市场交出了亮眼答卷：全球共计交付产品超131万辆，
中邮消费金融贷款逾期30年延迟还款影响征信吗
网贷逾期一般会上征信,有些借贷机构在用户逾期后一天后就会上报给征信机构，而有些借贷机构则是会在几天后上报给征信机构，因为有些借贷机构可
四部门：新冠病毒治疗药品延续医保临时支付政策 先行执行至3月31日
国家医保局、财政部、国家卫生健康委、国家疾控局今天发出《关于实施“乙类乙管”后优化新型冠状病毒感染患者治疗费用医疗保障相关政策的通...
CBA新闻：莫兰德挑衅广东队齐麟怒打裁判或禁赛王晗拒与李楠握手
CBA新闻：莫兰德挑衅广东队齐麟怒打裁判或禁赛王晗拒与李楠握手CBA常规赛第十七场，CBA联赛的前16场，CBA的总排名出现了很大的变化，特别是浙
世界播报:黑龙江：11起涉黑恶及“保护伞”案件集中公开宣判
记者从黑龙江省高级人民法院获悉，近日黑龙江高院及6家中级、基层法院对11起涉黑恶及“保护伞”案件集中公开宣判，95名被告人被判处死刑缓...
全球微速讯：果子园乡白纸棚村:“党建+”助力乡村振兴
“党建+组织”增强队伍凝聚力。村“两委”班子结构性功能与上届相比有显著优化,注重学以致用,把理论知识应用到具体的工作实践中；通过开展...
超过1000亿！44秒看外资最新动态
最新A股明显反弹向上，北向资金也快速回流A股，今天更是爆买127 53亿元。东方财富Choice数据显示，截至2023年1月5日收盘，2022年以来北向资金
2023杭州临安汽车消费补贴需要消费者自己申请吗？
临安购车补贴需要消费者自己申请吗？答：由参与本次促销活动的汽车经销商代消费者向“亲清在线”平台进行申请。申请流程：（一）信息采集和...
环球快报:太阳纸业董秘回复：2022年下半年，开工情况受到市场需求不旺、物流不畅、原材料价格高位震荡等因素的影响
太阳纸业(002078)01月05日在投资者关系平台上答复了投资者关心的问题。
