束开荣建议,中学可开设数字媒介素养相关课程,让青少年了解人工智能的来龙去脉,知晓AI不是一个充满神秘色彩的黑箱,解密就是祛魅。揭开面纱之后,他们会更专业、理性地认识AI与人的关系。
2023年7月13日,国家互联网信息办公室等多部门联合发布《生成式人工智能服务管理暂行办法》,成为我国AIGC产业首个规范性政策,划定了AI使用的底线。该办法明确,生成式人工智能服务应当遵守法律、行政法规,尊重社会公德和伦理道德,生成积极健康、向上向善的优质内容;提供者应指导使用者科学理性认识和依法使用生成式人工智能技术,采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务等。
“应用新技术,首先要坚持正确的伦理导向。”梁正表示,国内外已公布的针对AI的伦理准则大多比较宏观,需要在细分领域制定更具体的伦理准则,秉持对使用者最有利、风险最小的原则,对年龄、使用场景等加以限制。
梁正表示,应积极探索生成式AI的问责机制与行为规范,按照“谁生成、谁负责”的原则,让产品使用可追溯责任并能落实到人,引领科技向善,助推实现人机共生。
值得关注的是,当前数字虚拟的魅力可能在商业宣传中被放大。束开荣建议,平台方应通过技术设置边界,构建AI情感沟通的防沉迷机制,通过数据、算法的分析,适时进行提醒。
束开荣还提出,平台应设置隐私边界。比如,何种话题、何种回答会使一个人成为深度用户,平台收集了这样的偏好数据后,将不断复制这种情感构建模式,有侵犯用户隐私的可能。同时,因为不同用户的参与,情感构建模式不断成熟。这实际上导致情感的构建被量产了。
用智能手表监测心跳,在屏幕中看见远方,人的感知越来越依赖外在的机器。“未来我们有可能无法和机器断联。”束开荣说,但或许有一天你走在大街上,看到宣传广告,会发现原来你以为独一无二的AI陪伴者其实只是一个复制的工业产品。
“从来没有人对我那么好。”社交媒体上,一个十几岁的男孩对人工智能的关心非常感动。一位网友告诉他,“无论是AI还是他人,可以暂时慰藉你的孤独,但不应该成为依赖。你正是勇敢探索现实世界的年纪,虽然会有挫折,但能够学会自我成长和处理各种真实情感的技能”。
据悉,近期多款恋爱App停止服务。
在电影《Her》的结尾,虚拟AI退场,画面定格在主人公西奥多在真实世界里与人相依的背影。