陈强，贾婷，敦帅

《上海大学学报》2023,40(3):19-36

推荐理由

目前，关于人工智能伦理风险及治理重点等方面的研究判断，多是基于专家先验经验对预期应用场景的推理和评述，缺乏现实数据和典型案例的验证和挖掘。随着发展可信AI逐渐成为全球共识，打破了一直以来宏观演绎评述为主的价值判断状态，转向探索可信AI实践的落地机制，但相关理论研究较为缺乏。本研究立足可信AI实践这一范畴，运用扎根理论“自数据中去发现理论”的研究范式，探索出影响企业可信AI实践行为的关键性因素，以寻求对这些影响因素的作用路径进行进一步实证检验的可能，对构建多主体、全流程可信的人工智能技术发展生态具有重要意义。

作者简介

陈强：同济大学经济与管理学院教授，研究方向为管理理论与工业工程、技术与创新管理、城市发展与管理

贾婷：同济大学经济与管理学院博士研究生

敦帅：中共上海市委党校

关键词

可信AI实践；影响因素；驱动模型；伦理治理

内容简介

“可信AI实践”是指，从事人工智能研究开发、设计制造、部署应用的组织与个人，所实施的旨在控制技术伦理风险，增强人工智能技术、产品及服务信任和接受度的行动。本研究采用程序性扎根理论研究方法，通过深度访谈及二手数据的补充挖掘，探究影响企业可信AI实践的深层次因素，建构和发展出可信AI实践理论构架——“可信AI实践行为的影响因素模型”，简称“双因素驱动模型”（Two Factor Driven model，TFD model）。结果发现，可信AI实践意愿、使命、制度环境和能力4个主范畴，对企业可信AI实践存在显著影响。可信AI实践意愿和实践能力是内驱因素，可信AI实践制度环境作为间接因素，调节着企业可信AI实践意愿与行为之间的关系，可信AI实践使命作为间接因素，则调节着企业可信AI实践能力与行为之间的关系，且各范畴下构成因子对变量的影响方式和作用路径不同。

目前，国内外大型科技公司的可信AI实践虽发挥着重要示范作用，但从根本上来说，还要打造对行业内不同企业实体都产生正向影响的可信AI生态。企业是可信人工智能实践的核心主体，但不是唯一主体，需要建立以企业为核心的全流程多方共建的治理机制是发展共识。基于以上认识，本研究构建了“可信AI实践生态框架”，尝试为多主体在可信AI实践中的作用发挥，提供一把“量尺”，使可信AI实践成为有本之木。