全国人大代表邵志清。
全国政协委员刘伟。
2019全国两会·热话题
人工智能产业成为新的重要经济增长点，人工智能技术应用成为改善民生的新途径。目前，我国已有自动驾驶、城市大脑、医疗影像、智能语音四大新一代人工智能开放创新平台。智能家居、智慧医疗、实时翻译等应用，逐渐融入人们的日常生活。
与此同时，与人工智能应用相关的社会问题也日益显现。“比如利用使用人工智能技术侵犯公民个人信息、竞争对手商业秘密，甚至危害人的健康生命、社会的安全稳定。”全国人大代表、致公党中央委员、上海市委专职副主委邵志清提出，我国人工智能应用发展迅速，不能忽视科技发展的“双刃剑”效应，建议围绕资源获取、责任划分等方面，制定人工智能应用管理法。
全国政协委员、佳都集团董事长、佳都科技CEO刘伟在今年两会期间提交了多份提案与人工智能、大数据应用相关。随着物联网技术的不断发展和大数据的广泛运用，不少信息的授权和收集方式都设置得极为隐蔽甚至让人毫无防备与察觉，数据的安全性也将面临更多更大的挑战。刘伟建议，通过国家统一立法来规范个人信息的收集处理行为，需要建立相应的行政管理机构和实施个人信息保护法律法规的机制。
全国人大代表邵志清
亟须立法遏制人工智能不法应用
全国人大代表、致公党中央委员、上海市委专职副主委邵志清提出，我国人工智能应用发展迅速，不能忽视科技发展的“双刃剑”效应，建议围绕资源获取、责任划分等方面，制定人工智能应用管理法。
已出现运用人工智能实施犯罪的案件
2017年9月，浙江警方破获全国首例运用人工智能实施犯罪的案件。涉案平台利用人工智能技术快速识别验证码，截获、贩卖了10亿多组公民个人信息，供合作团伙进行网络诈骗。
更加让人工智能备受关注的是，不成熟的技术和应用，可能威胁到普通人的生命安全。2018年初，U ber无人车在道路测试中发生意外，一位女性被撞身亡。此前，一些工厂也出现过无人设备误伤员工的情况。
在邵志清看来，这使得人工智能的监管问题从技术领域拓展到民事甚至是刑事领域，对如何认定责任主体和行为意愿提出了全新的挑战。
他指出，传统刑法领域只有自然人才是刑法规制的主体，在人工智能应用场景下，很多机器成为了主体。另外，机器的主观意愿的认定也带来了困难。对于这类问题，现有的法律难以规范。
明确禁止应用人工智能技术实施违反人伦行为
为何提出针对人工智能应用立法？邵志清解释说，由于涉及面太宽，社会对人工智能的认识还处于初步阶段，对人工智能进行综合立法的条件还不具备。但为了防范重大风险，需要针对人工智能的具体应用进行立法。
邵志清介绍，2016年以来，一些国家和机构对人工智能立法进行了探索，例如欧盟议会法律事务委员会发布的《欧盟机器人民事法律规则》。在国内，工信部和北京、上海等地也出台了与自动驾驶相关的管理规范，为制定人工智能应用管理法提供了有益参考和依据。
他认为，在主体认定方面，应明确具有自主学习、思考、行动能力的机器人成为适格主体的应用场景和应用前提，明确机器人与自然人主体进行区分认定和共同认定的条件和依据。
在行为认定方面，应明确认定机器人意图的原则，特别是要解决机器人基于人工智能进行独立判断和决定所实施侵害的主观方面认定问题。责任划分和处罚的原则也需明确。“一旦有侵害发生，让智能机器人的使用者、制造者、机器人本身承担严格区分的相关责任。”邵志清说。
除了以上3个方面，邵志清认为，还应该重点围绕伦理道德、资源获取，进行人工智能应用的立法。在伦理道德方面，明确禁止应用人工智能技术实施违反人类伦理道德的行为，用法律为智能社会划出伦理道德的边界，让人工智能服务造福而不是困扰危害人类社会。
由于目前已经出现过不法分子利用人工智能侵害公民个人信息的案例，邵志清建议，在资源获取方面，明确禁止采集个人隐私、商业秘密、国家机密的资料、信息、数据，避免被人和机器恶意利用，从源头上遏制人工智能的不法应用。
全国政协委员刘伟
立法规范个人信息收集处理行为
全国政协委员、佳都集团董事长、佳都科技C E O刘伟关注大数据时代如何处理好促进信息自由流动与保护个人信息安全之间的关系，实现大数据发展与个人信息保护之间的平衡。他建议，通过国家统一立法来规范个人信息的收集处理行为，需要建立相应的行政管理机构和实施个人信息保护法律法规的机制。
建议加大校园A I防控的软硬件投入
近些年，校园暴力、欺凌、人身伤害等校园安全事件频繁发生。刘伟认为，校园安全事件不仅对孩子造成了严重的身体和精神伤害，而且也暴露出校园安全管理过程中的深层次问题，以及校园周边安全存在技术、管理、制度等短板。
刘伟建议，加大校园A I防控的软硬件投入。不同场景提供全覆盖的安防设备，建立起一套涵盖视频监控、入侵报警、巡更系统以及视频管理平台等综合化一体式的校园整体解决方案，例如使用人脸识别技术进行在校人员的出入管理以及视频监控对异常行为进行监控警告。另外，打通公安部与教育部的技术平台资源，实现部门联动，提高监督检查效能和预警反应能力。
目前，不少学校开始引入人工智能以加强校园安全建设。去年，南都记者发现贵州和广西十几所中小学与企业合作，让学生穿上与身份唯一对应的“智能校服”后，老师和家长能够了解学生的出勤率，还能实时监控学生位置和身体状况等，但有声音质疑其通过技术监控学生行为侵犯隐私。
刘伟认为，大数据时代，个人信息保护尤为重要，鉴于“智能校服”系统包含有大量的学生信息，每天有大量数据上传云端，数据的安全性不容忽视。同时，学生信息数据的保护是校方和相关公司需要格外重视且要做好的工作，保护学生的数据安全也是保护学生隐私权的重要部分。
物联网和大数据与个人隐私权矛盾将不断突显
刘伟认为，“智能校服”仅仅是物联网技术的一个应用，随着物联网技术的不断发展和大数据的广泛运用，大量的信息收集、数据上传将变得无处不在，不少信息的授权和收集方式都设置得极为隐蔽甚至让人毫无防备与察觉，数据的安全性也将面临更多更大的挑战。而每个人的信息数据又关系到其隐私权，未来物联网和大数据与个人隐私权的矛盾将不断突显。
数据安全是大数据技术落地、场景价值发挥的前提和保障。如何处理好促进信息自由流动与保护个人信息安全之间的关系，实现大数据发展与个人信息保护之间的平衡极为重要。刘伟认为，大数据环境下的隐私风险并非产生于个人信息收集之初，而是在于具体的使用环节，即同一信息因使用场景不同带来的后果也有所差异。因此，应将重心由个人信息收集阶段向使用阶段转移，侧重对后端使用环节的监管，适度放宽个人信息定义及前端收集环节的限制。
他还建议，通过国家统一立法来规范个人信息的收集处理行为，需要建立相应的行政管理机构和实施个人信息保护法律法规的机制。同时，增强企业作为数据跨境流通主体的责任意识，加强对企业层面的监管，提升行业自律水平。
采写：南方报业全媒体记者、南方都市报记者程姝雯 冯群星 钱柳君 卜羽勤 受访者供图
