QQ在线（xiàn）
企业微信
资讯
435国外有IBM沃森的医疗AI产品做（zuò）出错误（wù）诊断并开出不安全药（yào）物的教训，国内有杭（háng）州动物园发生的“中国（guó）人脸识别（bié）第（dì）一案”的（de）案例（lì）……近年来，人工（gōng）智能的（de）监管（guǎn）问题已成（chéng）为其发展道路上不可忽视（shì）的关（guān）键问题（tí）。
4月12日，“AI可信专题论坛”在上海召开，专家们围绕人工智能是否可信这一关键问题展开了深入探讨。中国科学院院士何积丰指出（chū）：“技术的发展从来都是一把双刃剑，人工智能在给（gěi）人类社会带来便（biàn）利的同时（shí）,也带来（lái）了新的（de）安（ān）全问（wèn）题（tí）及风险。”
“人（rén）工（gōng）智能（néng）发展仍旧（jiù）面临诸多挑（tiāo）战。”京东集团技术委员会（huì）主（zhǔ）席、京东人工智能研究院院长周博文指出，真实世界环境开放、边界和规则模糊、数据噪音多、AI模（mó）型的部分结果难以信赖等引（yǐn）发的（de）问题层出（chū）不穷。如智（zhì）能摄（shè）像头将公交车（chē）上的（de）广告人物识别（bié）为闯（chuǎng）红灯者、AI写作软（ruǎn）件创作核材料被盗的假（jiǎ）新闻、智能音箱（xiāng）建议使用（yòng）者自杀等，这些人工智（zhì）能暴露的问题已（yǐ）经逐（zhú）渐与人们的生活密切（qiē）相关。
复（fù）旦大学计算机学院（yuàn）院长姜育（yù）刚指（zhǐ）出（chū），要通（tōng）过“技术（shù）+规则”双轮驱动算法治理。“技（jì）术与规则联动（dòng），一方面研究更符合（hé）规则的人工智（zhì）能算法，发展评估技术以度量（liàng）现有人工智能（néng）算（suàn）法的合规程度；另（lìng）一方面通过规（guī）则自顶向下（xià）约束（shù）人（rén）工智能技术活动牵引其（qí）健康发展（zhǎn）。”
清华（huá）大学人工智（zhì）能国际治（zhì）理研究（jiū）院（yuàn）副（fù）院长梁正（zhèng）对该（gāi）会议上（shàng）发（fā）布的《人工智能（néng）治理（lǐ）框架与实施路径》报告（gào）内（nèi）容进行介绍时表示，当（dāng）前人工智能（néng）治理的挑（tiāo）战主（zhǔ）要集中于三个方面：数据、算（suàn）法、平台等新兴治（zhì）理对（duì）象（xiàng）的涌现使得追责（zé）的难度（dù）不断增大；人工智（zhì）能技术的发展和应用场（chǎng）景的拓宽（kuān）使得潜在的重大技术、经济和道德（dé）风险（xiǎn）开始冲击人类社（shè）会（huì）现存（cún）的价（jià）值体系（xì）和（hé）竞争格局；现存的（de）法律、监管制度供给的缺陷和全球范（fàn）围内灵活、有效治理机制的（de）缺失问题进一步凸显（xiǎn）。
“在治理过程中，除（chú）了应对以上挑战（zhàn）所带来的风险（xiǎn）外，还须（xū）实现发（fā）展与治（zhì）理的平衡（héng），既（jì）要避（bì）免规范不足导致的（de）社会问题，也要避免过度监管阻滞技术的发展。”梁正说。
