信息茧房

kaoyan

2012年3月北京字节跳动科技有限公司成立时，就是最早把人工智能技术大规模应用于信息分发的公司之一。无论是起家的搞笑社区“内涵段子”和推荐引擎“今日头条”，都是基于数据挖掘的算法技术为核心驱动，来实现资讯分发、内容分发。
这与微信微博、Facebook等以社交分发资讯有明显不同。社交分发是以你的社交关系链作为分发的基础，你关注的对象决定你能看到什么。而算法分发则是基于你的价值观念与兴趣爱好，通过各种算法琢磨出你有什么兴趣和偏好，然后向你精准“投喂”内容。表面上算法分发更能精准地匹配用户的需求，提升用户体验，但在另一方面却会禁锢甚至极化用户的价值观念，因而放大了“信息茧房”效应。
今年高考江苏卷作文题出现“信息茧房”这一概念。本来互联网就会加速构建使用者的信息茧房，如果加上算法主导的“审核系统+推荐系统”，那用户会待在他适合的信息茧房中“乐不思蜀”了。如果说一个人被他的社交圈子（同学、同事、亲戚朋友等）影响，我们都可以接受，因为这本已被人的社交属性所决定了。但一个人的信息来源、思想观念被一个精密的算法所主导时，那么这个人就成为机器算法的奴隶了。因此，当有自媒体文章说“抖音改变了世界，美国政府改变了抖音”时我笑了，抖音岂止是改变世界，而是要改变整个人类的生存方式了！然而，今日头条、抖音、TikTok的问题远不止于 “信息茧房”这类传播伦理问题，不然像日本这样媒体很开放的地方也不会采取行动。因为“算法分发”要做到精准匹配，就有两个命门罩在头上：
一是“隐私门”——必须时刻关注用户的动态，精准搜集用户信息，这样算法分发才能做到信息内容的精准匹配，才能精准投喂，与用户的癖好形成互动，用户的体验也才会更好。毫无疑问，大量搜集用户信息无疑对用户隐私权构成威胁。抖音出海以来，就不断遭到侵犯用户隐私的指控。2019年2月，美国联邦贸易委员会指控TikTok非法收集儿童的个人信息，最后TikTok同意支付570万美元来解决司法部提交的FTC投诉。
更重要的是，如此大量的用户信息和隐私搜集对他国的信息安全形成极大挑战。算法分发除了基于用户兴趣、新闻时效、热点进行推荐之外，还会基于地域、时间、场景等推荐，因此需要追踪用户的搜索历史、地理位置等信息，甚至对用户发布内容的场景进行针对性分析以获取用户数据。在大数据下这些用户信息除了可以用于信息分发、广告推广之外，还可以有其他很多应用。因此，各国政府对于用户信息搜集都保持高度敏感。
尽管TikTok一再澄清不在中国运营，中国政府无法访问TikTok用户数据，在美国，TikTok由美国实体运营，但是仍无法解除国外的担心。CyberInt首席网络安全研究员Jason Hill认为，位于美国以外的科技公司“受制于不同的数据处理标准或治理”，“虽然很多人可能并不关心这一点，但在政府，军队或敏感角色工作的用户可能会考虑将他们的个人数据暴露给外国实体的后果。”二是“审核门”。如前所述，在“信息茧房”中，算法不会分辨内容的善恶好坏，只知道你喜欢什么我就给你“投喂”什么，只要你感觉好、粘度高。为此，即使有强大的智能算法，但还是免不了人工审核，来判断算法分发的内容是否有违社会伦理道德。由于推荐的内容量很大，需要人工审核成本也很高。
更重要的是，有了人工干预（不管是人工审核还是对算法中权重进行调整），分发内容就会有偏向性，从而影响到用户。尤其是在拥有庞大用户后，算法分发平台已经不是一个媒体平台，也不是一个社交平台，而是拥有强大影响力的政治实体。这样的实体，即使由本国掌控，各国政府都感到害怕，更何况被外国实体掌握呢？
可以肯定地说，各国政府都不会容忍TikTok在本国坐大，尤其在今年的紧张形势下。因此，目前张一鸣还试图安抚美国政客，聘请一位美国CEO，增加在华盛顿特区的游说支出，其实都是徒劳的。张一鸣赖以自豪的核心算法，既成就了今日头条、抖音及TikTok的辉煌，又加速了自身命门的暴露。现在各国对TikTok的抵制，的确有政治环境的催化作用，但根本上是字节跳动技术伦理的束缚所致。利用精妙的智能算法，张一鸣为世人构建了一个超级“信息茧房”，但是他也逃脱不了作茧自缚的命运。算法分发在伦理上不符合现代社会，在进化上不利于人类发展，最终只是人类技术发展中的一朵小浪花。因此，对字节跳动而言，如果还沉溺于所谓的算法分发中自嗨，不仅TikTok会持续受到抵制，公司其他产品的命运也堪忧。