“快速发展人工智能技术规矩不能少”

本篇文章1830字，读完约5分钟

最近，关于人工智能技术应用的两件事引起了社会的广泛关注。 第一，视频编辑软件利用社会交流媒体更新画面。 该软件可以方便快捷地将视频中的人物替换为客户入住的任何人的脸部。 实际上，这种视频换脸自古以来就可以通过专业视频编辑软件实现，但招聘者需要相应的技术，过程多而复杂。 目前，人工智能技术简化和加快了这许多复杂的技术过程，普通人也可以轻松控制。 二是分解学生上课行为的照片，人工智能技术统计显示学生抬头、看手机、低头、做笔记、打瞌睡等行为。

变脸有两点需要警惕。 一是这项技术对社会新闻传播秩序的冲击。 一般来说，视频对新闻的忠实度高于文案和照片，视频能够比较准确地传播新闻，是社会新闻发布系统的重要媒体符号。 这种容易得到的简单换脸应用程序，如果被滥用，就会造成传达秩序的混乱。 二是这类应用程序收集面部新闻的合法性、安全性和可靠性。 的人脸、虹膜、指纹等生物特征识别新闻是重要的个人隐私新闻。 这类新闻的重要性远远大于地址、密码等类型的新闻。 地址、密码可以编辑。 面部特征、指纹等生物新闻是一生唯一的，不能更改。 泄露后果的严重性也不为过。 这样的消息一旦泄露，就无法挽回，技术开发者也无能为力，无论技术开发者主观滥用、被黑客攻击、无意泄露，都无法挽回。 目前，擦脸已广泛应用于金融支付、交通出行、公共安全等行业。 面部生物新闻的泄露对整个社会系统的影响是不可估量的。

人工智能量化分解学生课堂行为的问题是该技术质疑学生行为分解的准确性、可靠性和可靠性。 人工智能毕竟是一种算法，它目前能做的就是捕捉个人的行为轨迹，不具备对人类丰富多样的社会行为及其发生场景的准确评价和识别。 即使是同样的动作，意思也可能有很大不同。 技术可以检测到学生低头写字，但到底是写授课文案，与新闻无关，显然再高级的人工智能也无法评价。 人工智能可以准确识别学生是否上班，但对课时这么多、复杂的人类行为场景进行绝对量化的分析并不可信。 其次，即使技术上可靠，这样量化管理学生在课堂上学到的行为的道德正当性也值得怀疑。 我们教育以人为本，因为材料的教育，人不是机器，不能彻底数字化管理学生的行为，技术不能奴役人。

这两件事反映了人工智能技术的高速发展和广泛应用，但我们整个社会对这一技术的认识似乎还在深化，对其带来的风险和挑战还没有做好管理准备。

在认知方面，人工智能技术可以高效地处理许多行业的问题，但不会用人工智能处理所有的问题。 人工智能可以有效处理任何机器、枯燥、数据量巨大、简单的重复问题，但缺乏人情味、人性，所以在需要体现人的精神、情趣、想象、人性的工作中，一定要要人来做，不要只追求技术处理 技术并不是万能的

人工智能技术管理的关键是引出算法、数据、计算力三个主要问题。 政府必须在算法和数据两方面进行立法和监督。 必须确保算法是公开的、透明的和可监控的。 在数据方面对相关技术产品在数据的种类、规模方面加强了监督管理。 关于人脸特征的新闻、指纹、血液等人体生物特征的新闻要设立严格的标准，从采集、传输、记忆等环节加以管制，防止个人安全和国家安全的新闻被滥用，被安全控制。 数据应用的客户规模必须与公司的安全能力相匹配。 此外，在涉及关键行业和广大民众的技术应用中，必须建立人工智能采用的伦理与安全判断机制，类似于医学研究的伦理判断环节，确保技术快速发展的正确方向和合理采用。 建立第三方专业组织监督人工智能技术应用的安全性、可靠性和可控性。

公司必须执行主体责任。 作为技术开发的一部分，遵循人工智能开发的基本概况:确保公平、可靠和安全、隐私和保障、包容、透明度和责任、技术可靠性、合法性和人类伦理规范。 公司应当具有底线意识，不违反相关法律法规，遵循基本的社会价值规范和公共道德，承担相应的社会责任。 必须按软件分发平台，严格验证应用程序的权限，确保客户下载应用程序的安全、可靠性。

客户必须提高公众的技术招聘素养，培养正确的认知、合理的技术招聘能力。 在人工智能技术的应用场景中，也需要考虑是否采用人工智能技术、采用的程度等顾客的选择权。

人工智能作为革命性的新技术，没有人能准确预测技术未来的结果。 在网络管理方面，我们过去奉行快速发展后的管理理念，人工智能技术应用的领域行业广阔，算法不透明，结果隐蔽，其管理必须具有与其快速发展同步、快速发展的管理理念 最终使人工智能技术更好地服务于人类社会的快速发展。 (作者是天津师范大学信息与传播学院教师张建军)