工业机器人和工人一起工作时，如何保证机器人不误伤工人？使用无人驾驶技术时，如何保证汽车不被黑客入侵，变成某些人作恶的工具？当机器人掌握了使用者无数隐私时，怎样保证这些隐私不被窃取，或者不被制造商非法利用？
如今，我们已经无可避免地进入了与机器共存的时代，在我们无意识的情况下，机器正在替我们做出更多的决定。面对人工智能引发的道德问题时，人们不禁思考：如果出现问题，谁负责？怎样培养有“良知”的AI，从技术底层保证AI从根本上是“善良”的？
9月3日上午，由上海市欧美同学会和徐汇区委统战部联合举办的2022世界人工智能大会分论坛“有良知的人工智能技术”暨上海市欧美同学会人工智能分会成立仪式在徐汇西岸举行。
在中国科学院院士、市欧美同学会长裴钢看来，之所以选择“有良知的人工智能”这一主题，是因为“如今，人工智能领域充满了无限可能，也充满了无限挑战，我们不仅要知道能够做什么，更要知道不要做什么，这就是在当下讨论伦理问题的意义。”
裴钢表示，上海市欧美同学会成立了生物医药分会、集成电路分会，如今人工智能分会成立后，将积极打造多元的交流平台，加强会员与各级政府部门和机构的互动，促进人才、技术、项目的交流合作，实现共赢，为上海建设更具国际影响力的人工智能高地贡献智慧和力量。他还鼓励广大留学人员心系“国家事”、肩扛“国家责”，加快突破关键核心技术，实现国家科技自立自强。
该场分论坛围绕“有良知的人工智能“进行讨论，聚焦人工智能技术带来的机遇与风险，探寻如何发展符合人类法律、道德的人工智能技术。与会的各位专家探讨了关于人工智能带来的隐私、法律、公平、透明等问题。
“AI作恶不是因为它恶，因为它坏，而是因为它无知。”在联影智能医疗科技有限公司联席CEO周翔看来，今天的人工智能还没有自知之明，它不知道自己所学习的东西的上下文和局限性，不知道自己不知道的事情，不知道自己可能搞错了。在医疗或自动驾驶领域，更具体、更实际的问题是“AI还不能承担责任”。
目前，在医疗领域，政府监管很严格，还没有公司申报自主决策的AI产品，政府的关注点在于产品的预期用途是什么、是否具有安全性和有效性、是否有临床数据支持“AI无害”。 周翔说：“AI学不全所有情况，所以不可能独立做决定，医生的把关是非常重要的。除了影像，医生还掌握很多其他信息，可以进行逻辑思考，并综合其他相关信息作出更科学的判断，这种能力AI还达不到。但科学的发展需要时间，序幕刚刚拉开，精彩的还在后面。”
