来源：腾讯研究院 

“科技向善月度观察”由腾讯研究院汇编，每月15日整理最新一月全网科技向善相关资讯、观点与实践产品，为科技向善的探索注入全新燃料。

似乎是受到了某种“集体感召”，过去一个月里，全球的社交媒体产品都在推进微观层面的技术功能改变，以改善平台生态和用户体验。

Twitter 有意将“转发前阅读”功能推广到整个平台。这种实验性的提示会出现在用户转发一篇没有打开过的文章时，建议他们在阅读之后再转发。该功能于今年 6 月份进行小范围灰度测试，Twitter 表示，测试组用户在转发之前打开文章的频率比对照组增加了 40%。要知道，许多用户之所以转发一篇未曾读过的文章，往往是品味或观点的一种展演，但文章真实内容很可能与标题大相径庭，这就会导致在此基础上所进行的讨论形成意见分裂。

正如 Twitter 产品总监 Suzanne Xie 所说，“文章很容易在 Twitter 上进行病毒式传播。有时，这对于分享信息来说是很好的，但对于话语权来说也是不利的，尤其是当人们还没有阅读他们所发的推文内容时。”因此，“转发前阅读”可以说是减少分裂、推进知情讨论的有效举措。在此之前，Twitter 和 Instagram 上的一些测试功能会在用户分享有害或冒犯性的内容之前予以警告。

同样，作为重要的图片分享社交产品，Instagram 近期也开始测试利用 AI 技术自动屏蔽攻击性评论，以作为网络霸凌解决方案的一部分。Instagram 表示，该平台的 AI 技术可以自动识别评论中欺凌或者骚扰的语言并予以隐藏，但在这些评论被隐藏之后，用户仍有权利选择打开所隐藏的内容。而 Twitter 此前也有类似举措，即给含有误导性信息的内容打上各种各样的标签。与直接删帖为主的措施相比，这些做法是折衷之举，既没有让发表不实言论者以“言论自由”发难，又尽可能提示和警醒了用户。此前，Instagram 也曾推出一系列针对恶意评论的工具，例如，借助“Restrict”工具，用户可以限制另一用户的评论；而另一项功能则可以识别评论是否具有恶意，并在发布前提醒用户。

“腾讯研究院”公众号曾发布《为什么极端内容更容易流行？》一文，文章指出了由于用户心理和内容的复杂特性，极端内容相较于普通内容更容易在互联网上传播，也愈发难以根治。利用产品本身的技术机制改进来进行抑制是一种有效的缓和机制。“转发前阅读”、屏蔽攻击性言论等等这些举措，虽然看起来只是技术层面的微小改变，但可能会带来社区生态净化的巨大进步。

在国内，微信 iOS 端也在刚刚上线的新版本中更新了“青少年模式”。用户开启该模式之后，“摇一摇”、“看一看”、“附近的人”等功能，以及视频号、公众号、小程序、小游戏等入口的访问都将受到保护性限制。家长可以根据对孩子的使用情况的判断，自由选择是否限制其访问，并确定限制程度的大小。此前，腾讯已经在 QQ 发布了青少年模式，主要内容包括聊天显示拼音，屏蔽无效搜索信息，QQ 看点仅推送学习内容、动态页功能聚焦等，助益青少年健康上网。

有的事实也在提醒我们，技术不是万能的，尤其是看起来无所不能的 AI。

2020 年初，YouTube 大规模裁撤人工内容审核团队，全部替换为 AI 进行审核。这项举措被视为提升审核效率和精准度的选择，并能够有效缓解人工审核员的心理创伤问题。作为结果，YouTube 在今年二季度的所有视频的内容初审都交由 AI 进行审核，没有人工参与。但是，YouTube 却在近期紧急叫停了这项举措，并大量返聘年初解雇的人工审核团队。这是因为 AI 审核的规则相较于人工更为严苛，并且会造成误伤。今年一季度被鉴定违规并下架的视频仅有 660 万，但 AI 替代人工之后，被下架的视频几乎翻了一番。而在被 AI 下架的 1100 万个视频中，有 32 万提出申诉，最后近半数通过二次审核并重新上线，与之对照，经人工审核下架后进行申诉的视频，只有 25% 左右可能重新上线。

有时AI本身就是麻烦的根源。9月26日，一个ID为“the gentle metre”的账号在美国最大论坛Reddit注册上线，而这个账号很快将论坛搅动得鸡飞狗跳。“the gentle metre”每隔几分钟就会在各大版块上发表评论，无论是什么话题，都能发布长篇大论，并且不乏有获得高赞的回答。许多人都以为账号背后是一个涉猎广泛的无聊人士，但直到一个周后，有人开始质疑，它的每个回答都是6段话，非常符合GPT-3的生成模式。很快，一个名为“哲学家AI”的APP发布回应，确认这些内容出自其APP，有人逆向工程了“哲学家AI”，从而绕过验证码，批量生成回帖。目前，哲学家AI已经修补了漏洞，而Reddit也开始删除the gentle metre的部分回帖，一场GPT-3的灌水闹剧就这样草草收场。如果不是利用它的人去“广撒网”，又或者是精心筛选结果，恐怕这个回帖机器人很难被发现。

AI的复杂性一如既往，在带来了这么多问题之后，AI同样是许多问题解决的方案。一款名为Fake Catcher 的算法就成为 DeepFake 的克星。近年来，DeepFake已经不再是少数科研人员掌握的技术，它被越来越多动机不良的人应用到各类领域，比如炮制色情影片或虚假新闻。9月，一篇刊登在 IEEE PAMI 上的论文提出了一种能够识别DeepFake视频的新方法。文章思路别出心裁，它通过识别人脸面部因心跳血流产生的微弱变化来判断视频是否为深度合成，其原理就在于DeepFake的假人脸无法还原这种因血液流动而造成的变化。基于这一主张，研究人员设计了一套基于卷积神经网络的模型，名为Fake Catcher。Fake Catcher能够从不同的 DeepFake 视频中提取：（1）关键的人脸区域；（2）读取 PPG 信号，并将两者组合成一个时空模块（称为一个 PPG 元素），通过对PPG元素进行学习，最终就可以输出结果。在 Face Forensics + +、CelebDF 等常用的假脸数据集上，Fake Catcher 的准确率已经超过90%。更厉害的是，它还能够识别出假视频所用的是哪种 DeepFake 算法。

除了成为 DeepFake 的狙击手，在儿童自闭症诊断领域，AI 也取得了新的突破。儿童自闭症诊断是一个长期性的难题，过去，儿科医生会推荐大部分疑似儿童到专家处诊断并开出治疗处方，流程往往长达数月甚至数年。而在本月，美国儿童健康公司 Cognoa 宣布其研究引进AI 技术，融入自闭症谱系障碍（ASD）诊断，并且已提交美国食品及药物监管局（FDA）审批。如果最终获得 FDA 审批，Cognoa 的这套诊断方案就能帮助全美约 6 万 4 千名普通儿科医生及早诊断自闭症，并使得自闭症儿童获得及时的护理与治疗。

自动驾驶同样是上一月度的重点。谷歌再度创造了历史，其旗下自动驾驶子公司 Waymo 宣布在美国亚利桑那州凤凰城，正式面向一般大众开放无人驾驶叫车服务。10 月 8 日起，Waymo 开始向 Waymo One 会员开放无人驾驶搭乘服务，接下来，还会上架应用程序让更多人使用无人驾驶服务。Waymo 表示，他们会在短期内提供真正的无人服务，期间将不会有车辆操作员在车上。早在 2017 年，Waymo就开始了测试活动，申请早鸟测试的用户能够在每天任意时段呼叫无人驾驶车辆。2018 年，Waymo 扩大了测试用户群体，而在两年后的今天，Waymo 认为其无人驾驶车服务已经足够成熟，可以面向一般大众开放。

而在国内，百度Apollo自动驾驶出租车正式上线，在北京部分区域开放自动驾驶打车服务的测试工作。北京用户可以在海淀、亦庄等地的自动驾驶出租车站点，无需预约，直接下单免费试乘自动驾驶出租车服务。从百度地图自动驾驶轿车服务点乘坐提醒来看，目前只支持在法规限定范围内的推荐站点上下车，每辆车同一时间最多可接待 2 位乘客。细节规定，乘坐人需年满 18 至 60 周岁，车内也会有安全员随时保障行车安全。在 9 月 15 日的百度世界 2020 大会上，百度公司首席执行官李彦宏曾预测：“5 年之内，无人驾驶技术会进入规模化商用阶段，中国的一线城市将不再需要限购限行，10 年之内，基本解决拥堵问题。”

但自动驾驶到底是带来了便利，还是引发更多担忧，对此的判断似乎要假以更多时日。

9 月 16 日，曾经轰动一时的“第一例自动驾驶杀人案”终于有了初步判决结果。美国亚利桑那州马里科帕县的检察官表示，坐在驾驶位的安全员 Rafaela Vasquez 被控过失杀人罪，但她所在的公司 Uber 在这起事件中不会面临刑事指控。2018 年 3 月，Rafaela Vasquez 作为安全员乘坐的 Uber 自动驾驶汽车在亚利桑那州进行测试时，撞到了一位推着自行车横穿道路的女性，致其死亡。根据美国国家运输安全委员会（NTSB）调查结果显示，当时车辆时速为 62km/h，而道路限速 50km/h。在整起事故当中，安全员并未担负起她应尽的责任。众所周知，在当下自动驾驶测试中，绝大多数车辆都会配备 1～2 名安全员，如果车辆出现意外，安全员需要随时接管。但是在本案中，安全员 Vasquez 并没有专注在道路上，而是时不时低头看右下方中控台上的手机。在行车记录的视频当中，事故前半秒钟她才抬起头来，但显然为时已晚。

NTSB 的最终调查结果认为，安全员事发时看手机分散了注意力，并且 Uber“安全文化不足”导致事故发生。从事实上看，这起事故是由安全员的疏忽与自动驾驶技术问题共同造成的。技术存在明显的纰漏之处，在尚不完善的情况下无法避免；同样，安全员的疏忽也无法完全避免。两个主体都存在现有条件下无法规避的缺陷，却承担了截然不同的惩罚。从法律上给出的结果，人承担了全部的刑事责任，技术无罪。而不承担刑事责任的 Uber 需要做的就是改进自动驾驶技术的缺陷。

当科幻书的预言或者电影上的情景在现实中重演时，普通个体的恐慌也就在所难免。

9 月 26 日，加拿大安大略省北部的人行横道上，一条四条腿的“机械怪物”竟然在半夜肆无忌惮地乱跑。根据路人拍下的视频，可以判断这只“怪物”就是波士顿动力生产的机器狗。这段视频被上传到 Twitter 之后，引发激励讨论。众多网友表示画面很让人恐慌，也有网友认为，这不免让人担心这种机器人会被用作不良的用途，毕竟波士顿动力一开始就是为了军事目的而生产这些狗。

这些事件告诉我们，人类还没有准备好面对一个科幻世界。对于意在将新技术尤其是超出大众常规认知的新技术推向市场的公司来说，除了炫酷的功能之外，更要考虑这种技术或者说模式能够在多大程度上被寻常人所接受。

个人数据隐私保护的问题仍然是当今各界关注的重点。9 月 12 日，创新工场董事长兼 CEO 李开复在参加某峰会时表示：“我们早期帮助他们（旷视）找到了合作伙伴，包括美图、蚂蚁金服，让他们拿到了大量人脸数据，帮助他们分析各个行业怎么切入。”这一番话在网络上引起了争议，所涉公司纷纷出了发布声明，而李开复也很快出来道歉，并称“我的口误，给三家公司带来困扰，深感歉意”“数据一直存在合作方客户服务器中，不涉及任何数据的共享与传输”。

在技术不断发展的今天，如何处理好个人信息利用和保护已经成为备受关注的问题。这一问题得到了各方的关注。苹果在最新的 iOS 14版本中，大幅度提高了对用户隐私的保护力度。模糊定位、相册读取范围控制、APP跟踪保护、APP隐私政策更新等等举措，带来了很多在隐私保护上的新探索和尝试。

根据官网展示，在新版系统中，Safari浏览器的“智能防跟踪”功能能够阻止广告商跨网站跟踪用户，而该功能是默认开启的，用户无需设置就可以收到保护；在“地图”、“相册”等应用上，大部分功能的实现都是在用户设备上完成的，而不是在云端，因此用户隐私并不会被Apple所获取。除此之外，广告跟踪功能在iOS 14中被设置为默认打开状态，能够在用户首次使用APP时提醒是否允许该用户访问与物理设备相关的标识符，最大限度实现对用户隐私的保护。

而在刚刚结束的WWDC上，苹果也发布了隐私安全方面的四条核心原则，可以视作是这家全球市值第一的大公司的“隐私价值观”：

数据最小化：苹果自己或者其他人获得的私人数据最小化

设备端智能技术：尽可能本地处理用户信息

安全保护：技术手段对数据安全的保护

透明度和管控：帮助用户理解被收集的数据，让用户自己选择该如何使用该数据。

以上就是本期“科技向善月度观察 9.15-10.15”的全部内容。在接下来的时间，我们将继续为你带来与科技向善相关的更多内容，如果你有相关意见和思考，可以通过tencentresearch@tencent.com联系我们。

信息来源：

[1]cnBeta:https://www.cnbeta.com/articles/tech/1033389.htm，9月25日

[2]DONEWS:https://www.donews.com/news/detail/1/3116287.html，10月10日

[3]theverge：https://www.theverge.com/2020/9/21/21448916/youtube-automated-moderation-ai-machine-learning-increased-errors-takedowns，9月21日

[4]量子位（ID：QbitAI），https://mp.weixin.qq.com/s/CRZchnVpyduEtCZwZjNMUg，10月9日

[5]硅星人（ID：guixingren123），https://mp.weixin.qq.com/s/W8I7RZywqBS06G-msyABaw，10月8日

[6]globenewswire：https://www.globenewswire.com/news-release/2020/09/23/2098045/0/en/Cognoa-Seeks-FDA-Clearance-for-Breakthrough-Digital-Autism-Diagnostic-Device-After-Successful-Pivotal-Study.html，9月23日

[7]donews:https://www.donews.com/news/detail/1/3116306.html，10月10日

[8]速途网：http://www.sootoo.com/content/749496.shtml，10月12日

[9]极客公园（geekpark）:https://mp.weixin.qq.com/s/6KNEDdkZucQjwNPWrAb1yw，9月26日

[10]Apple:https://www.apple.com.cn/privacy/features/