吴军、郝景芳《锵锵三人行》:数据与算法将操控人类的未来

吴军、郝景芳《锵锵三人行》:数据与算法将操控人类的未来

有声读物」「2019-10-29」「凤凰卫视」 凤凰卫视1996年3月31日启播,以“拉近全球华人距离,向世界发出华人的声音”为宗旨,致力为全世界华人提供高质素的华语电视节目。经过21年的努力,凤凰卫视已经从一个单一频道的电视台,发展成为拥有中文台、资讯台、欧洲台、美洲台、电影台和香港台6个电视频道,超过3.6亿观众的跨国全媒体集团
核心提示:人工智能成为时下热点,大家在激烈探讨AI对人类社会的影响时,也出现了迥然不同的声音。诚然,人类对高科技的追求是永不止步的,但是却难保其负面...

核心提示:人工智能成为时下热点,大家在激烈探讨AI对人类社会的影响时,也出现了迥然不同的声音。诚然,人类对高科技的追求是永不止步的,但是却难保其负面后果的积重难返。我们无法预料科技到底会将人类带往何方,但现在我们依然需要时刻警惕科技对人类的物化。

窦文涛:锵锵三人行,这吴军老师咱们是鸡年头一回见面。

吴军:对。

窦文涛:当然今天我特别开心的是见到慕名已久的清华美女,郝景芳老师。

郝景芳:窦老师好,吴老师好。

窦文涛:景芳老师首先得祝贺你,科幻小说获得雨果奖,但是你觉得我这祝贺有点晚吧?

郝景芳:我们也是我获奖之后第一次见,所以不晚。

窦文涛:聪明。

吴军:她很会说话。

窦文涛:对,你刚得奖的时候我们就请我们请不来,所以说我这个祝贺也迟到今天。而且你看我今天给你们搭配的,你们俩有缘,太有缘了,首先都跟清华有关系。咱们景芳你又是研究物理学的是硕士,经济金融方面还是博士,现在在国务院下边一个智库里工作。她研究经济,所以你说这是才女现在让我们男的都没法混了。

郝景芳:其实研究员里面的女生现在越来越多了,就是女生还做研究员挺合适的。

窦文涛:要不咱们谈谈未来的女权问题,你觉得未来你认为女性会全面碾压男性吗?

郝景芳:碾压说不上,就是各司其职,适合女性工作其实会越来越多。

窦文涛:甚至像科幻小说,过去咱们觉得是男性的天下,但是你的那个科幻被归类为是软科幻。

吴军:我倒觉得像政治小说。

窦文涛:没错,而且我觉得你们俩还有一点可以作为咱们今天的话题,就是景芳写的这个《北京折叠》我在多个地方论坛上我都引用,因为我觉得这是一个最好的可以讽刺一下社会现实的,就是说北京分成三个世界,三种人。为什么我说吴军老师也有一句话把我给惊着了,说是去年年尾上有一个叫万物互联大会,您有一个演讲。当时吴军老师对未来的预言就是说,未来的时代只有2%的人能脱颖而出,98%的人都是废物点心。

吴军:不是废物点心了,这个数据不是这么算出来的。

窦文涛:那您这话是怎么说出来的?

吴军:是这样的,就是说当时不是有一个占领华尔街,那有些人就说我们是98%的,那我们反对谁呢,就反对那2%的,所以他们把人分这么两个阵营。少数的,我们说得益于全球化,得益于科技进步等等这些人,那么还有剩下来的人。没有绝对说一定是1%、2%或者5%,但是,总体来讲极少数人会受益,比较多人可能跟他们差距拉的很大。

窦文涛:这似乎也是你在小说里看到的未来。

郝景芳:很多职业会被机器取代,也有很多新工作会产生

郝景芳:对,我在《北京折叠》里面是写到说,那个时候可能大部分人是失业的,其实没有到2%、98%那个状态,但是是会写到说,有一部分他们的工作被机器人取代了,他们做不了别的,所以就是一个很大的社会问题。但是在现实中,其实我没有这么悲观,我会觉得未来只是形态社会上会和现在不一样,但并不意味着有很多那样的人会失业,因为有很多很多新的工作会诞生。

窦文涛:比如说什么工作?

郝景芳:什么都可以,我们现在定义很多这种职业方向已经和五十年前非常不一样了。我们说的那种被取代就是像机器它会很容易做的,像生产,它把工人取代了,但是与此同时有很多其他的工作新出来的。就比如说,我们今天大家都会愿意为看大家聊天来付钱,聊天现在不就是一个工作嘛,像您聊天聊的好的这个就是一个职业。那未来的话,可能有很多人他就专门负责聊天,聊五百块钱的天这个本身是可以成为职业。

窦文涛:那我们是属于2%。

吴军:这个少,觉得新的工作从数量上来讲很难弥补旧的工作的损失。那你如果看两个数据,一个就是说美国数据说奥巴马那个政策为什么大家对他反弹,或者说那种负面看法很大,一方面他显得失业率在不断的下降,但是美国还有一个数据就是就业率,这两个加起来不是100%。就是说这个就业人口除以总人口,他当政这八年是美国历史上,是过去三十年历史上最低的八年,因为大家找不着工作,不找了,就业率美国大概60%。然后又很多年轻人有20%年轻人是找不着工作的,而且年轻时候就找不着,他一辈子找不着。

窦文涛:我们可能已经站在新时代的门槛上了

窦文涛:我最近思想上发生了一个更新,说起来因为我总是马后炮,后知后觉。我们这文科生现在你们这个理科精英面前,那简直就没法活下去。但是我也觉得好像是一夜之间,大概就是这几个月来,我收到种种资讯让我一下子意识到可能我们站在一个新时代门槛上。因为在我的身边,突然之间机器人、AI人工智能,包括我们请来的嘉宾,坐你这个位置聂卫平,前一阵子,阿尔法狗的升级,把这聂棋圣60盘全赢,突然一下子你就觉得这个时代。还有一点就是我跟吴军老师最近都注意到一本书,就是以色列学者《未来简史》,你看他这个让我们一下子意识到好像一个新的时代,甚至说数据和算法这个词比人还重要了。

吴军:实际上我们现在某种程度上很多人生活已经受这个影响,我在我这个《智能时代》也讲这个,就比如说你如果天天在淘宝上泡在这上边买东西,接受它给你的推荐等等,你实际上是被阿里巴巴的数据和算法在控制着。

窦文涛:你看马云那模样就像个控制设备,而且我就觉得你像咱们这个受党教育多年,我发现马克思主义真的是很难丢下。

郝景芳:共产主义要实现了是这样吗?

窦文涛:包括《未来简史》里讲的这个,你说包括你这个《北京折叠》里面其实就是个阶级问题。阶级问题在新的智能时代或者大数据时代,你比如说我在这个书里我举个例子来讲,你的小说里讲的,就是说这些草根阶层将来的机器智慧,就是纯粹我觉得慈善事业才让你们扫扫大街,要不然把你们这活剥削你都没有剥削的价值,太惨了。但是我在她这本书里,比如说她觉得科技改变人类,那么现在已经到了一个什么境界,就是说下一个时代可能要探索人类长生不死,您在谷歌待过,您知道库兹韦尔吗?

吴军:我知道,他是一个半人半神,他不是一个主流的科学家。

窦文涛:他说的靠谱吗?

吴军:我觉得不太靠谱。

窦文涛:他说他要活到2045年,他说2045年人类长生。

吴军:后来又改成2039年好像听说,2045、2039差好几年。

窦文涛:这个《未来简史》里说是2050年还是什么的。

吴军:我记不住了,他说了好几个年代反正是。

郝景芳:人的意识是一个动态过程 很难被机器模拟

窦文涛:你比如说我现在注意到他很多种说法,我不知道是不是科学的。比如说现在有一个科研方向是发现有一种药很有意思,好像叫二甲双胍,因为就是说糖尿病那个降糖的药,现在有些人发现这个药很神奇,说这个东西好像将来也是能够解决人类衰老一个研究方向,您有听说吗?

郝景芳:其实这个人类的细胞衰亡这个问题没有那么简单到了说某一个分子,或者某一个基因就能是它的问题,因为包括细胞死亡基因也挺多年前就有人在说这个事情,然后但是这个总的来讲,它是一个大的系统工程。但我不怀疑说未来实际上靠各种更新这个寿命会增长,我觉得这个其实未来很容易是一个方向。

窦文涛:对,你看他说几个方向,一个是生物医学是一个方向,再有一个是这种人机互联是一个方向,甚至还有那个更玄的。我记得您原来提过,人的意识将来能不能存在一个芯片里。

郝景芳:对,这个昨天我们也和一些朋友在聊起这个事情,实际上人的这个意识跟计算机存储是很不一样的。人这个意识并不是在电脑里面就在人脑里面像个静态图片就放在那儿,你把你的意识存在电脑里面就像静态图片一样等着访问,人不是。人的所谓记忆、意识等等其实是一个动态过程,就是你的意识,你这脑细胞一组叫它放电方式,电化学,它是一个过程。你整个大脑并不是说只是大脑,它和你身体完全相关的,就是你身上每一个肌肤、你的每一个手指、你的眼睛你的耳朵都是你大脑的一个组成部分,它这一个信号进来了要经过整个这一个过程的处理,到大脑那边再处理再返回。

郝景芳:所以你如果光把这个静态数据传到电脑上,你剩下一切全都抛弃掉的话,你这个过程其实就没法持续了,我是这么觉得。当然你可以说未来全都改成模拟的,然后你在电脑上也模拟你的手臂输入,模拟你自己眼睛看到的,模拟耳朵听到的,然后还得模拟出你身上所有化学信号。因为人的很多意识是和化学信号有关系的,你的多巴胺的分泌,去甲肾上腺素的分泌,所有这些化学信号都会影响到你的思维,那你要每一个分子都得拿计算机信号去模拟,其实我个人感觉这个是一个不太可能说真的模拟出来你的意识。

吴军:生死是常事 追求长生没有意义

吴军:另外一个可能不太必要,生死我是这么看的。我父亲过世比较早,所以我就觉得我看得比较透,有生必有死,追求长生没有任何意义。就是说我虽然不是基督教徒,但是我也感觉这个世界上是有一种冥冥的力量,它背后也是冥冥力量在控制,还有本书叫《自私的基因》,这是很有名分子学进化论一本书。它就讲说我们实际上都是DNA的奴隶,我们这个身体之所以存在就是为了一个DNA的传承,那么一个衰老机体死亡掉使得我们DNA能够传承下去,这本身就完成了任务。

郝景芳:但是其实如果按照他这个理论的话,那这个人就应该不断的更新自己,因为自己儿女只跟自己享50%的DNA,但是自己跟自己是享有100%共同DNA,所以如果一个DNA它来做选择的话,肯定是不断更新自己。

吴军:这个DNA它是这样,它不是说你一个DNA,是这一种DNA整个作为族群。

郝景芳:把这个人类物种当成一个物种。

吴军:然后再有拿回我跟KK,凯文·凯利在聊这件事情,他说你看世界上只有一种细胞就是不死的就是癌细胞,癌细胞是可以不死的。但是癌细胞不死就导致我们机体死掉,就是如果我们这个社会上都是这些不死人,我们社会就死掉了,我们这整个人类可能就死掉了。

窦文涛:但是您是科学家了,所以您能站在人文的高度上觉得这个生死应该是常事,为什么非要追求不死呢。可是智人这种动物他可不管这个,他只要一发现有这个可能性,我觉得他有一个道理,比方说现在说基因检测如果发现胎儿有什么问题,可以选择要或者不要,你比如试管婴儿你就有个挑选,你掌握了这个技术,接下来你甚至有可能想,那我要修改一下呢,这就很容易想到的。

吴军:对,就现在基因编辑,就是张峰他们搞的很热。

窦文涛:那你修改一下就会出现超好遗传这样的人。

吴军:不一定。

窦文涛:为什么呢?

吴军:因为是两个,就是说一个原因说它的好多基因不是一个基因在控制,是多组基因。比如举个最简单的例子,就是说我们色盲这是一个基因在控制,你出现色盲你知道是哪个基因,你如果把它修复好就好了。心脏病是好多基因控制,你修了那个可能把另外一个弄得更坏是有可能的,那么实际上我前一阵还投过一家公司叫做人类长寿,这公司就是追求人类长寿。

窦文涛:这不你也投嘛。

吴军:不是,我投这公司就是说它研究抗癌、治癌,这个创始人叫克雷格·文特尔,是最早搞人类基因组计划的负责人,得过美国总统奖,克林顿给他授的奖就是国家科学奖。他那天给我讲一个,他说根据他们的研究,他有五万个人完整的基因,就是全图谱基因他们搜集到的,就是说为什么得癌症,我们说污染各种原因食物什么的。他说92%的原因,说白了就是你太老了,没别的,污染所有这些东西贡献了8%的原因。他说这个人在基因当时老了以后你坏了,就像比如一个水坝千疮百孔,你如果就是修复好一个,你就相当于堵了一个小孔,你可能坏了一万个,实际上从某种角度来讲,这个水坝也不值得修了。人类现在其实基本上他们比较准确推算自然寿命在115岁,个别人会长寿就偶尔有接近120岁,但是过去已经很多年了,大概就是每年最长寿记录现在最近很多年都没有超过115。

郝景芳:那您投的这公司他们是做什么?叫长寿公司。

吴军:人类长寿,他是这样的,他其实是通过基因检测帮助生物制药。比如说它有好几个应用,第一个应用就是说现在很多抗癌药,比如对张三管用对李四不管用,那么他们最大客户是基因泰克,就是做抗癌药的公司。他就要搞清楚这个药为什么对有些人管用,对另外一些人不管用,他们在基因上有什么差异,这是一个。再有一个,他提供一个服务,就是说大概差不多你掏一万美元给他,他成本没这么多,他把你的基因全图谱做一个检测,完了你未来有可能得什么病,他不断给你跟踪、管理就是这种。有了什么新的治疗方法对你这个病,或者说有些防治方法他及时通知你,检测完他送你一个iPad,每天这些东西这个iPad随着你走,他是这样的。

吴军:相信有超出人类的超级力量,人很难逃离其控制

窦文涛:你说我看这本书,就从这个点上我为什么说想起你这个《北京折叠》呢。它预示着未来的马克思主义可能性,说长生不死这个技术最早肯定是有钱的人他能够掌握,实际上现在有钱的人就能有更好的医疗服务,这是没有问题的。但是这个科技几何级数拉大距离之后,将来咱不说不死吧,您能活200岁,我们这草根阶层到七八十岁就完了。过去说你马云有点钱,你王健林比我有点钱,这我也就忍了,你不死了,我去,那人民要革命了吧。

吴军:不会不死亡,我觉得这是一个自然规律,就是说我们如果相信有一个超出我们人类,不叫上帝,叫什么超级的力量,就是说它的存在它制造了我们整个宇宙这些规律,你实际上人很难超脱这个控制,在很多地方上跟大家讲,就是说有人说,我们说叫知天命,什么叫知天命,就是说你如果相信说人的本事不是万能的,这某种程度上就是知天命。

窦文涛:您这科学家讲天命。

吴军:确实这样,比如我老跟做投资的讲这么一件事,我说你们要知道所有市场甭管是做风险投资也好,还是做二级市场股票投资也好,谁都不是老大,政府都不是老大,老大是上帝。就是说任何一个人你做投资以前,你对上帝要有一分敬畏,你不要觉得说我有多少钱,我能够操纵市场什么什么,这些都是做不到的。最终,当你们做了太离谱的时候,就像我们说金融危机、次贷危机,上帝会惩罚你。所以这个我觉得就是说从我对世界认知来讲,有一种冥冥的力量在这儿。

郝景芳:这个其实可能是说统计学,如果我们把所有人类当成一个统计学的话,从统计的角度来讲可能还是会有某种稳定性,就是一个按照统计规律应该如何。所以一个人他做很多事他长期看可能是一个规律,然后可能整个社会稳定会平均在某个规律上,但是是否就是能够有人就始终处于统计之上,就像抛硬币一样多少次都在这个统计之上。

窦文涛:您看您也是研究经济,你觉得这种贫富矛盾、贫富阶层固化和拉大,结合上科技革命,你预测在未来是进一步拉大鸿沟,还是有可能弥合这个鸿沟?

郝景芳:社会的公正、自由、平等永远无法三者兼顾

郝景芳:实际上史蒂芬·平克有一个《心智探奇》,那本书里面写到一个最根本悖论,我觉得那个是最关键的。他说人类社会不可能永远保持,就三个状态同时,一个是公正,一个是自由,一个是平等,为什么呢?因为如果是公正就意味着多劳多得,谁干的好谁就挣的多,这叫公正。然后自由就是你得的东西你可以自由分配,你想干什么干什么,那么所有人的人性都会把自己得的东西给孩子,然后这样的话就达不等平等了,就意味着说多劳多得的人他的孩子先天就多,积累下去的话确实是会。所以实际上如果你看长期历史的话,为什么人经常我们合久必分、分久必合,我们一段时期繁荣一段时期乱,就是有的时候这种张力,这种积累,某些人积累的太好了,另外一些人什么都没有,这种状态到了一定程度,矛盾太大了。

吴军:爆发革命了。

郝景芳:对,然后社会就重新打破,重新洗牌开始。然后未来的话,这个科技也是有可能的,因为先不说这些人不死,他们如果能够基因修改的话,那么其实可能就是在某些方面像您说的,改得更优化一点也是有可能的,就是会积累到超出一般人,就是先天优势我觉得是有的。但是如果你要说冥冥中有某种规律使得人类社会回归到平衡的话,那可能还是会社会不稳定,重新洗牌等等。

窦文涛:听上去希望都不是太大。

郝景芳:对对。

窦文涛:锵锵三人行,广告之后见。

窦文涛:当然刚才吴军老师您讲上帝,冥冥之上有个上帝,我现在发现你看我通过看《未来简史》这个书,包括您那《智能革命》,我觉得这个上帝是不是也可以除昧了,就是它这个所谓上帝是什么,比如说现在有的人他就提出,就是你讲的万物联网,最后这个数据。就是整个人类社会从一个个体到一个国家到一个地球,无外乎就是超级复杂一种算法。那么这个上帝指的是不是这个全数据这个处理系统。那么这个全数据处理系统,你看咱们举个例子来讲,我又想讲马克思主义,马克思其实我觉得他完成了第一阶段,就是人的异化。他就发现你看像卓别林生产线上一个工人,他就会拧螺丝。他不知道他拧螺丝跟他最后产出这个东西之间是什么关系,人就变成一个工具,甚至是最后产出那个利润决定了这个拧螺丝这个人还有没有必要存在。

吴军:机器没办法控制人类 还在于制作机器的人

窦文涛:那么你像《未来简史》这本书它的意思就是说,将来都是算法,比如说您也讲过将来一个城市可能就是一个超级电脑在控制。那么这个规模,我们要无远弗届放大的话,有一个忧心就是说,会不会有一天这个超级算法认为,你这个人也是其中维持我这个系统的工具和环节之一而已。那么我为了更有效率的运作,把你灭了也没有什么不可以,或者说你要说这个上帝就是冥冥之上宿命的话,那无数物种灭绝也都是这个超级算法的选择,你不能适应环境你可以cancel了。

吴军:这个自然选择它就是讲究这种残酷,就像一个剪刀似的看你这个枝子不顺眼就给你剪掉,这个物种就灭绝了,这是过去的说法。

郝景芳:但是这里面有一个问题,就在于说,目的到底是什么。比如说我们现在想要剪头发为了美观,我们有一个目标我们有一个价值观是美观。然后我们想要做一些身体上面修改,我们知道这是一个病,我们要给它去除。如果你要想到说现在有这么一个超级智能,它的目标是什么,就是如果它已经全球联网成一个超级智能,它的目标到底是说我要更好利用星球,因为对于它来讲没有说我要弄得更漂亮一些,或者说它到底是想保留更多人对它来讲是好的,让人繁衍,还是它也不需要人,它不需要人的话,那对于它来讲什么是它的目的,所以我们人类有这么强的目的,因为我们作为一个生物我们有这个生存最基本这些需求。

窦文涛:你比如举一个例子,将来咱就说超级智能、共产主义实现了,那么按照你《北京折叠》里的说法,那这个智能也许比如他感觉到实际上人干的活机器都能代替,那么所谓的草根阶层也不让你们扫大街去,你们都到海滩玩去吧,你们都玩去吧,不用你们了,那你说这对人类是福还是祸?

郝景芳:其实有一个动画片就是《瓦力》,大家都在那吃薯片看着虚拟现实,这个其实是可能更有可能性一种。你说不上它是好还是坏,但是它其实是一个possible,就是说现在不是有很多人提共同收入,然后你给每个人都发全都平等的收入,你们也不需要工作了。

吴军:不是全等,就是基本的收入。

郝景芳:基本的收入,然后基本收入你就拿着这个钱去娱乐,这个是有可能会实现。

窦文涛:你全人类去享乐,但是享乐肯定娱乐至死,最后你这个退化。

郝景芳:对,这是有可能出现的现象。

吴军:我觉得这个事是这样的,就是说第一机器本身是人造的,它还不用太去担心它去控制人。但是制造机器这些人他在背后控制人,这是将来非常可怕,就是说你说这整个城市是一个大的机,或者整个国家、世界是一个机器…

《圆桌跨越派》5G:2020,欢迎来到未来

《圆桌跨越派》5G:2020,欢迎来到未来

《圆桌跨越派》生命:人生能够有多久?

《圆桌跨越派》生命:人生能够有多久?

林玮婕、梁文道《锵锵三人行》:影视剧审查不应只由官方说了算

林玮婕、梁文道《锵锵三人行》:影视剧审查不应只由官方说了算

许子东、梁文道《锵锵三人行》:京剧进教材属京城文化的膨胀?

许子东、梁文道《锵锵三人行》:京剧进教材属京城文化的膨胀?

周轶君、马家辉《锵锵三人行》:从家暴谈到夫妻关系

周轶君、马家辉《锵锵三人行》:从家暴谈到夫妻关系

李玫瑾、马未都《锵锵三人行》:谈恋爱婚姻关系中的暴力行为

李玫瑾、马未都《锵锵三人行》:谈恋爱婚姻关系中的暴力行为