产学协作文化教育 可信AI技术实践活动课程内容踏入C9高等院校

近日，西安交大与蚂蚁集团公司协作落地式了中国第一门以“可信AI基础理论及运用实践活动”为具体内容的产学协作课程内容——《竞技性人工神经网络与人工智能安全性》。课程内容是朝向硕士研究生和高学段本科毕业生的专业能力课程内容，总共32课时，3学分绩点，由西安交大专家教授与蚂蚁集团公司技术权威专家一同授课。內容紧紧围绕“数据信息个人隐私保护”、“可扩展性（Robustness）”、“可实证性与因果关系剖析”、“公平公正”四个一部分开展设计方案，包含了可信AI行业中的关键技术基础理论及其运用实践活动。

根据理论基础研究与实践活动累积，后面蚂蚁集团公司还将与北京清华大学、上海交大、浙大等高等院校协作订制特色课；根据参加产学协作文化教育，适用高等院校推动可信AI有关人才的培养。

可信AI发展趋势依靠优秀人才服务体系

在人工智能被广泛运用的今日，其安全性和可信性引起了广大群众的关心，早已成为了牵制下一阶段人工智能技术迅速發展的短板所属。早在2017年，国务院办公厅在《新一代人工智能建设规划》中，就将人工智能的安全性可信性科学研究、评定和合理管理方法做为关键谈及。

如何破解人工智能在数据库应用、运转全过程中的安全问题？怎样提高AI模式的抗打压工作能力、可靠性？如何破解AI管理决策全过程的“白盒”，提升大家针对管理决策結果的信任度？如何防范由于数据信息、优化算法问题导致不公平性？可信AI技术科学研究，涉及到人工智能中包含多方面安全性测算、智能化抵抗等好几个细分化技术域，而且针对技术的综合型运用明确提出了更好的规定。

课程内容责任人、西安交大网警学校副院长沈超在访谈中强调，“真正工业生产情景中的问题通常是多方面和交叠的，而高等院校传统式的学科教育则更偏重于某一技术域的管理体系性和一致性。学员必须现实的情景实例，来辅助创建剖析、处理综合型问题的工作能力。”与此同时，课程内容的协同责任人西安交大蔺琛皓研究者也注重“可信AI的发展趋势取决于技术探索，而技术探索则来自于技术人才培养。”

“尽早创建对可信AI的关心和认知能力，将有利于促进高等院校参加可信AI技术科学研究，与此同时也可以为产业链塑造更为‘贴近生活’的综合性人才”，此次课程内容老师、蚂蚁安全性天筭试验室內容优化算法主管祝慧佳表明。

产学协作塑造 可信AI踏入高等院校

公布材料表明，自2015年起资金投入可信AI有关技术科学研究，蚂蚁集团公司在智能风控、个人隐私保护、智能搜索等多元化的数据服务项目情景中探索开发了一整套“可信AI”技术基础理论及运用管理体系，在探索技术实践活动的与此同时，积极开展和促进各种安全性可信规范基本建设。

国家发明专利权威部门IPR daily在2021年6月公布的《人工智能安全性可信重要技术专利权汇报》中强调，蚂蚁集团公司的*在该行业申请专利及受权数上均位居全世界第一；其根据可信AI技术产品研发的风控系统实体模型，也变成业界第一个根据我国互联网金融测评中心评测的人工智能优化算法金融业运用，在安全系数、特性、可实证性等领域均以标准化根据。

实际上不但蚂蚁，每家互联网大厂和科学研究组织，也在积极主动资金投入可信AI有关技术行业的谈论和科学研究。

2020年，商汤首先创立了人力整治伦理委员会，从优化算法、数据信息及其社会影响三个层面集团旗下产品线开展伦理道德审批。2021年，中国信通院与京东商城探索研究所协同公布《可信人工智能市场研究报告》，对可信AI技术及行业发展提意见。同一年10月，美国哥伦比亚大学数据信息科学院负责人周以真在学术期刊《ACM通讯》上发表论文《可信人工智能》，详细介绍「可信AI」的理解与研究意义。

做为学术界和工业领域科学研究的热点话题，本次可信AI的前端技术基础理论和实践活动实例踏入高等院校，既是响应国家“产学协作人才的培养”的呼吁、推动人才的培养与企业对接，也为可信AI技术行业的多维度发展趋势进行了优先带头作用。

申明：本网站转截该文目地取决于传送其他信息，并不意味着赞成其思想观点和对其真实有效承担。如涉及到著作內容、出版权和其他问题，请在30日内与本网联络，大家将在第一时间删掉內容,本站对于此事申明具备最终解释权。