点击右上角
微信好友
朋友圈
请使用浏览器分享功能进行分享
人工智能如何做到可信、可用？专家热议：把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态，是人工智能技术能做到可知、可信、可控、可用。而在现实中，人工智能技术手段虽然非常强大，但是离完美、完善仍有相当的距离。从技术角度和技术应用角度，人工智能的发展如何做到扬长避短？
近日，在2022人工智能合作与治理国际论坛上，专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为，现阶段很多技术还处于发展的过程中，如果过早地说这个不能用、那个不能用，可能会抑制技术本身的发展。但反过来，如果什么都不管，也不行。
“因此，现在更多还是从道德层面多进行引导。同时，做技术的人，也要尽量把一些可能的风险、抑制工具，即约束风险的工具，尽快想明白。自己也做，同时号召大家做，两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为，我们要保证能够创新，但同时不能让创新对我们的生活产生破坏性的影响，最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时，社会也要进行集体的监督，发布某个产品或技术，要能够召回、撤销。在创新和监管之间，当然是需要平衡的，但归根结底，还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道，在技术可解释性方面，需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型，或者更加可解释的AI应用。
“但我们真正想落地的时候，会发现每个人想要的可解释性完全不一样。比如：模型层面的可解释，可能从研发人员角度觉得已经很好了，但是从用户的角度是看不懂的，这需要一些案例级的解释，甚至通过替代模型等方式进行解释。因此，在不同领域，需要不同的可解释能力，以及不同的可解释级别，这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中，现在是不是时候？
高文认为，人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对，可能带来危害，要么召回，要么撤销。
高文说，应用的开发者，系统提交或者最终用户让他去调整的时候，他应该有责任。如果开发者发现已经踩线了，应该给他一个保护机制，他可以拒绝后面的支持和维护，甚至可以起诉。“不能只说哪一方不行，光说是开发者的责任，他可能觉得冤枉，因为他只提供工具，但有时候是有责任的，只是说责任怎么界定。”
“在人工智能的发展过程中，一方面要建立一些红线。”田天建议，比如，对于人工智能的直接滥用，造假、个人隐私泄露，甚至关联到国家安全、生命安全的，这些领域一定要建立相关红线，相应的惩罚规定一定要非常清晰，这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上，对于处于模糊地带的，希望能留有更多空间。不光是从限制角度，也可以从鼓励更加重视伦理的角度，促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院(I-AIIG)承办，中国新闻网作为战略合作伙伴，联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
行走在深山里的“独行侠”****** (新春走基层)行走在深山里的“独行侠” 中新网柳州2月3日电 题：行走在深山里的“独行侠” 作者 孙赟飞 夏阳春 胡玄德 坐落在湖南省通道侗族自治县西部的牙屯堡站，是南宁铁路公安局柳州公安处融安站派出所管辖的一个四等火车站，这里地势起伏，山峰连绵。每天清晨，伴随着急促的火车鸣笛声，地处深山的牙屯堡小站迎来了当天的第一趟火车。吕志贤作为这个小站唯一的铁路民警，在天蒙蒙亮时，就开始了一天的工作。 今年45岁的吕志贤是南宁铁路公安局柳州公安处融安站派出所的一名民警。2020年1月，他主动申请到偏远的牙屯堡警务区，至今已三年了。牙屯堡警务区管辖着20多公里长的铁路线，沿途有10座桥梁、18个隧道，其中广西与湖南交界的彭莫山隧道有足足5公里长。  吕志贤在牙屯堡站立岗，迎接来往的列车。 夏阳春 摄吕志贤每天的工作是在铁路沿线开展安全巡查，对铁路路段两侧的防护栅栏、警示标志牌进行检查，对铁路沿线私搭乱建、行人有无穿越铁路、杂物、轻质飘浮物等安全隐患问题进行排查。完成这项工作，吕志贤每天需要步行8公里铁路线，开车巡逻15公里。 由于线路处在连绵山岭之间，蜿蜒的山路小道上经常会有蛇虫鼠蚁出现，吕志贤就准备了一根木棍，边走边敲打。“线路上有蛇都是常事，这些都不打紧，还是怕山林里的野蚊子，被叮上一口，一个礼拜都消不下去。”他说。  吕志贤爬上隧道口查看落石情况。 夏阳春 摄2月，牙屯堡山里的气温依旧很低，伴随着浓浓的雾气，线路两侧都结上了厚厚的冰。一旦结冰，上山的公路就会被封锁，吕志贤就只能徒步巡逻。警用大衣、大盖帽、装有热水的保温杯便成为吕志贤巡线路上最好的保暖措施。不论天气多么恶劣，道路多么难走，吕志贤都坚持按计划巡逻。他说：“也不怕这天有多冷，走着走着，身子不就暖和了，只有自己走过，才能放心。” 春运期间，线路周边的学生喜欢在放假期间到铁路周边玩耍。为了给铁路沿线学生普及铁路安全知识，吕志贤把牙屯堡附近的村落跑了一个遍。村落里，线路旁，他给孩子们讲授铁路安全常识，孩子们围着吕志贤好奇地问个不停。 此前有个调皮捣蛋的孩子跑到铁路上玩耍，被吕志贤抓了个正着，当下教育，可还是不放心，后来他去孩子家家访，才得知孩子父母离异，一个人跟着爷爷生活，生活状况特别贫困。“我们去到他家里家访，家里连件像样的家具都没有，更别说孩子的学习用具，都靠学校和同学之间资助。”每次到村落宣传，吕志贤都会专门为这个孩子买一些学习用品，过节的时候还带孩子来镇上添上几件新衣裳。他说：“要是能帮上忙就多做点，谁家没点难事。”  吕志贤进入村庄开展法治安全宣传。 夏阳春 摄吕志贤家在距离牙屯堡站直线距离120多公里的融安县城，其爱人潘菲是融安火车站的临时身份证制证窗口的工作人员，孩子一个刚上初中，一个还在上幼儿园。今年春节，因工作原因，吕志贤大年初二便离家回到牙屯堡站开展线路安全工作。对此，潘菲没有半点怨言。“他守护线路，我守护家。无论生活和工作多艰辛，只要夫妻同心，一定会把工作干好。”潘菲说。 今年春运是吕志贤在牙屯堡站值守的第四个春运，年前他守护着旅客回家团聚，年后他守护着旅客乘车复工奔向新的希望。“每次巡查爬上了山顶，看着满载旅客的列车平安通过时，我就觉得自己的工作充满了意义。”他说。 吕志贤甘于寂寞，甘于奉献，是深山里的最美“独行侠”。在其精心努力下，他的辖区创下了线路治安安全1095天的好成绩，辖区治安事件“零发生”。(完)
|
)