《促进人工智能算法性别平等》报告在沪发布

　　9月27日，由联合国妇女署资助支持、玛娜数据基金会主办的“促进人工智能算法性别平等”报告发布会暨政策研讨会在上海举行，会上发布了《促进人工智能算法性别平等研究报告(2021)》(下称《报告》)。

　　联合国妇女署驻华办公室高级项目官员马雷军、上海市浦东新区妇女联合会国云丹、玛娜数据基金会秘书长张唯、玛娜数据基金会课题组专家负责人周旅军、专家况琨，以及小米集团科技委员会技术向善议题召集人朱汐、信也集团首席算法科学家王春平、Thought Works(中国)数据智能团队解决方案架构师任添石等各界嘉宾出席本次会议，共同探讨如何促进人工智能算法中的性别平等，协同政府、企业和社会的力量促进人工智能的伦理与治理的发展。

　　马雷军首先发表了主旨演讲，他指出在联合国可持续发展目标的17个目标工作领域里，性别平等是第5个核心目标。中国在促进性别平等以及保护妇女权益方面，也有很多实质性的举措，如《民法典》和即将出台的《中国妇女发展纲要》等。由玛娜数据基金会实施的联合国妇女署的“促进人工智能算法性别平等”项目是联合国CGF项目第9批项目招标(2019年)的中标项目，该项目填补了国内关于人工智能领域性别问题研究的空白。

　　国云丹肯定了“促进人工智能算法性别平等”项目的前瞻性意义，并指出“算法性别平等议题讨论尚且处于起步阶段，现在讨论算法性别治理议题将影响到今后我们所面对的、我们所置身的社会是何种样貌。”她提出了对算法偏见问题的观察，“随着数字化转型的开展，性别平等的推动遇到了更大的挑战。技术本身无性别偏见，但算法的应用使既有的、存在于社会中的性别偏见得到强化”。在玛娜数据基金会的项目开展过程中，浦东妇联给予了充分关注和支持。期待通过该项目撬动社会意识，探索有效的落地措施，发挥浦东在人工智能数字化转型路上的引领者角色。

　　据了解，2019年，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，提出了人工智能治理的框架和行动指南，明确提出要在数据获取、算法设计、技术开发、产品研发和应用过程中消除偏见和歧视。该委员会近日又发布了《新一代人工智能伦理规范》，第十三条特别强调避免偏见歧视，在数据采集和算法开发中，加强伦理审查，充分考虑差异化诉求，避免可能存在的数据与算法偏见，努力实现人工智能系统的普惠性、公平性和非歧视性。

　　“正是在这样的背景下，基金会开展了‘促进人工智能算法性别平等’的项目，通过基础研究和学术倡导揭示出算法中存在的性别偏见问题，提炼出有益于促进算法性别平等的建设性意见。”张唯在会上表示，“此外，对企业开展性别意识及能力建设，对社会倡导提升对于该问题的认知和讨论，都是促进算法性别平等的举措。”

　　据《报告》介绍，目前人工智能算法的诸多应用场景中均存在一定的性别歧视现象。以人工智能开放平台为例，一张“端着水果篮的男性”图片被AI人脸识别平台检测为“女性”，单独截出头像却能够被检测为“男性”。在就业场景中，2018年亚马逊公司的自动招聘算法倾向于给关键词含“女”字的简历打低分，降低了女性工作申请成功率，最后弃用了该招聘算法。

　　“算法中存在性别歧视问题，主要源于训练AI的数据集反映了人类社会存在的性别偏见，而算法工程师对这一问题缺乏意识，未将解决性别偏见纳入开发需求，从而使得算法放大了性别歧视。“该项目课题组专家况琨向记者解释算法为何会产生性别歧视问题。

　　《报告》通过专题社会调研的数据显示，58%的人工智能算法从业者不知道算法当中存在的性别偏见问题，73%的从业者不知道存在专门针对女性的恶意算法。而对于如何解决这一问题，更是有72%的从业者不了解数据偏误(或数据偏差)的解决方案或技术措施，80%的从业者不了解实现算法公平的解决方案或技术措施。表明从业者对算法性别平等的意识及能力较为欠缺，亟需提升。

　　为女性提供更多的科技教育机会，企业提供性别平等的职业准入、培训、晋升机会，增强企业内部的性别平等意识培训等，都是解决这一问题的重要举措。在参与调研的从业者当中，有72%的从业者参与的人工智能算法项目中女性开发者比例少于30%，66%参与的团队中女性决策者比例少于30%。该项目课题组专家负责人周旅军认为，提升女性开发者和决策领导者比例，也将有利于促进算法中的性别平等，促进科技纳入更加多元包容和性别友好的视角。

　　开发者和程序员等相关从业群体对算法偏见与算法公平性的认知尚存在很大改善空间。企业可以采取一系列手段直接干预算法偏见，在算法产品开发和应用过程中提升性别公平性。《报告》中从开发、审计、反馈改进和应用决策四个方面提出建议：

　　此外，立法为审计可行性提供制度保障、研究机构和社会团体开展第三方算法审计等举措均有利于促进人工智能算法性别平等。

　　对于生产和使用数据的个人，周旅军也提供了几点建议：1、作为数据生产者，认识到算法偏见，避免生产出带有性别偏见的线、将偏见反馈给平台，参与到算法产品性别平等的改进过程中;3、要求企业公开训练数据的审计结果;4、要求了解算法的使用场景和目的，选择企业使用数据的方式。

　　张唯在会上强调，一方面是要在人工智能的伦理层面建设和倡导性别平等的意识理念和话语体系，另一方面则是要寻找将性别平等观念落地的途径和措施，不能只止于反思和批判，要真正将性别平等的理念贯穿于人工智能行业中组织机构的内部运转，为其提供可行的操作方法，使算法能够为促进性别平等服务。

　　2022年8月22日，浙江省杭州市淳安县千岛湖小金山水域，千岛湖鲢鳙老口鱼种养殖现场，鱼种养殖户把二龄鲢鳙老口鱼种通过抽样、过秤后投放千岛湖。

　　位于青海省杂多县的查旦湿地，是长江源区最大泥炭湿地，三江源国家公园高原湿地保护核心区，也是雪豹、黑颈鹤、棕熊、藏野驴、等野生动物重要的栖息地。

　　今年以来，文安县市场监督管理局购置40台数字指示秤投放到全县主要的商场超市、农贸市场、果蔬店等消费集中场所，向群众提供免费的计量服务。

　　2022年8月16日，在山东省青岛市胶州湾国家级海洋公园红岛段，白鹭和苍鹭在治理后的滩涂湿地上捉鱼。

　　2022年8月17日，位于湖北省恩施市芭蕉侗族乡白岩村3组的落星空露营基地里人来人往，入夏以来，这里便成为人们夏日休闲的新地标。

　　2022年8月13日，在安徽省滁州市来安县，国网安徽电力党员服务队队员正在对当地一家企业大负荷生产设备进行安全用电检查，指导企业节能（错避峰）生产。

　　8月9日，来自中国、越南、尼日利亚、也门等国的摄影师和留学生，在澜沧江昂赛大峡谷体验漂流。

　　2022年8月9日，内蒙古自治区兴安盟，选手在那达慕大会上参加射箭比赛。日前，兴安盟那达慕正在内蒙古兴安盟科右前旗乌兰毛都草原举行。本届那达慕大会期间将举办诗歌那达慕、传统美食那达慕、音乐那达慕以及、射箭、搏克比赛等活动。

　　2022年8月8日，在重庆万盛经开区南桐镇金兰坝村，青山绿野与金稻田和鱼塘相互映衬，田野的线条在稻田中穿梭，美不胜收。近年来，当地加快采煤沉陷区生态环境修复，将绿色还给矿山，昔日采煤沉陷区，今日放眼满山绿。

　　近几年，青海省不断加大投入和保护治理力度，持续推进青海湖流域生态环境保护和综合治理工程，流域生物多样性和物种丰富度显著提升，吸引来自全国各地的游客前来旅游休闲。

　　随着暑期到来，天台山进入旅游旺季，当地高度重视文化旅游融合发展，不断挖掘提升太阳文化资源，聚力打响日照太阳文化品牌。

　　暑假期间，东港区充分发挥村镇新时代文明实践所作用，招募老师、志愿者等深入到268个乡村书屋，为学生开展各类教育服务，让孩子们度过一个快乐充实的暑假。

　　四川省华蓥市禄市镇姚家塝村在灼灼其华的紫薇花和翻着金浪的水稻点缀下，恰似一幅恢宏绚丽的锦绣画卷。

　　2022年8月3日，由中铁十一局施工的湖北省襄阳市环线提速改造工程跨襄阳北编组站大桥T3主墩顺利实现转体。

　　近年来，该县大力推广蜜蜂养殖产业，通过公司+合作社+蜂农的发展模式，形成了集养殖、加工、销售为一体的产业链，拓宽了农民的增收渠道。

　　2022年7月29日，河南省三门峡市西闫乡东吕店村农民为铁棍山药进行管护作业。盛夏时节，豫西大地黄河南岸广袤的田野里，红薯、铁棍山药、葡中药材等农作物长势喜人，农民们正抢抓农时进行管护作业，田间地头一片忙碌景象。