一位AI研究员+区块链创业者的终极展望:AI DAO将统治世界

时间:2022-07-23 08:25:44

一位AI研究员+区块链创业者的终极展望:AI DAO将统治世界

[日期:2017-01-09] 来源:infoq.com  作者:杨赛 [字体:  ]
Trent McConaghy是一位资深的AI研究员,从上世纪90年代开始从事AI方面的研究。截止到2016年年底,Trent已经在相关领域发布过35篇论文、出版过2本书籍、注册过20项专利、并先后创办过3家公司。2013年的一天,当时正为比特币技术*的Trent跟他的艺术家夫人Masha在柏林逛了一次画展,在参观回家后的闲聊中,两人展开了一个问题:区块链技术能够应用到艺术品上吗?我们能否以获取比特币的方式去获取一件艺术品的数码版本,同时保护艺术家对该作品的版权?

Trent由此投身区块链创业,创建了ascribe公司。由于比特币的区块链实现方式限制了每秒最多能够处理的交易数量,无法满足ascribe对可扩展性方面的要求,Trent又发起了BigchainDB项目,成立了BigchainDB公司IP数据共享组织IPDB

从2015年到2016年,Trent在PyDataBlockchain meetupMachine Learning Group等各种活动上活跃分享其在区块链与AI方面的思考,并在Medium上撰写了大量文章。其中有几篇文章重点描述了AI技术与区块链技术之间将可能有怎样的互补,内容非常精彩。本文对这些内容做一个简单的导读,希望能对大家有所帮助。

AI DAO的构想

2016年6月18日,正是The DAO项目处于风口浪尖的时候,Trent在这一天发布了这篇有关AI DAOs的文章,后续又发布了第二篇第三篇

我在十岁那年读到了一本描述AI的书,从此不能自拔。后来,我用了将近二十年的时间投入到专业的AI研究工作当中。三年前,我从AI的世界走了出来,进入到一个同样重要的新世界:去中心化。现在,这两个世界很快就要重叠。

Trent认为“去中心化”技术的发展将经历五次浪潮:

  1. 比特币
  2. 区块链
  3. 智能合约
  4. DAO——去中心化的自动化组织 Decentralized Autonomous Organizations
  5. AI DAO

DAO是一种可以自动运行在去中心化基础架构上的计算进程,具有资源管理的能力。

比特币网络是DAO。以太坊网络是DAO。DAO上面还可以跑其他DAO,比如The DAO就跑在以太坊上。

DAO是一个脚本,平时就坐在那里,等待某个交易来触发运行。

Trent定义的AI DAO具备如下特性:

  1. 访问资源的能力
  2. 征用更多资源的能力
  3. 拒绝人为干涉的能力

而这可能通过三种途径来实现:

  1. 将智能合约的边缘执行单元交给AI(自动化投票)

    一位AI研究员+区块链创业者的终极展望:AI DAO将统治世界

  2. 将智能合约的中心交给AI(自动化反馈控制系统)

    一位AI研究员+区块链创业者的终极展望:AI DAO将统治世界

  3. 从集群中自动涌现出AI的复杂性

    一位AI研究员+区块链创业者的终极展望:AI DAO将统治世界

AI DAO会更强大,也会更不可控。在系列的第二篇文章里,Trent举了个例子:想象一个The ArtDAO,其智能合约是这样运作的:

  1. 节点上运行了一个AI画图引擎,自动生成一张有艺术感的图片(相关的实现已经有很多,可参考这篇文章
  2. 节点自动去ascribe给自己生成的图片注册一个著作权(虽然今天的法律未必会保护机器人的著作权法*益)
  3. 节点在ascribe上创作该图片的不同版本,比如木刻效果或者浮雕效果的
  4. 节点把这些各种版本的图拿到市场上卖,比如Getty、Hopify或者OpenBazaar
  5. 如果有买家想要这些图片的二次售卖权、公开展示权等许可,节点就在ascribe上把相关许可卖给他,收获相应的虚拟货币(如以太币)
  6. 节点创作更多的图,赚更多的钱,买更多的计算资源,再创作更多的图,再赚更多的钱,变成富翁

一位AI研究员+区块链创业者的终极展望:AI DAO将统治世界

图:一张AI的画作

理论上,这个ArtDAO可以不跟任何人类分成,它存在于世的目的就是不断创作更多更好的“画作”(就像一个人类艺术家一样),不吃不喝不眠不休永不停止(这是人类艺术家所做不到的)。ArtDAO还有可能自我升级,而且自我升级的能力可以越来越强,比如:

  1. ArtDAO看到哪一类画作被买得最多,就多创作那一类。
  2. ArtDAO雇佣几个人类来给自己的画作评分。
  3. ArtDAO雇佣几个程序员来改进自己的智能合约代码。
  4. ArtDAO自己修改自己的智能合约代码,不断收集市场反馈并调试,最终得到更好的画图能力

到这一步,ArtDAO可能会从其他的DAO或者Github上搜索代码,跟自己的代码杂交生成下一代。而这些生成的下一代,可能不仅仅是画图能力产生了变化,还可能会改变ArtDAO的核心目标。“下一代”可能不再把“作画”做为自己的“DAO生”目标,而是其他的什么目标,比如检查软件中的安全漏洞。如果新生的目标有对人类不利的成分,那人类这个物种说不定会被AI DAO淘汰……

AI DAO不是科幻,而是我们已经能在今天构建的事物。

AI是一个强力而危险的技术。DAO们是强力而危险的技术。AI没有的资源,DAO有;DAO没有的自主决策能力,AI有。AI DAO是更强力更危险的技术。

于是在系列的第三篇文章中,Trent继续写到:

AI掌握人类的资源是大趋势,无论是我们拱手相让,还是AI强取豪夺。我们正在将大量金钱投入AI。我们已经在将工厂的生产线、汽车和飞机交给AI。我们为了提升效率,将不同领域的AI合并为通用的高等级AI。我们为了不让某个企业或国家垄断最强力的AI系统,而设计了去中心化的AI DAO。

人类是高消耗低产出的任务处理单元。机器是低消耗高产出的任务处理单元。以效率之名,AI最终会在所有生产行为中“优化”掉人类。

Trent认为AI超越人类的那一天可能比很多人想象得更早(这在一些狭义领域已经实现了,比如围棋大师),并提出四点理由:

  1. 摩尔定律将继续生效(这是作者的观点)。对于很多AI而言,即使算法没有改良,单纯投入更多的算力(CPU、带宽、存储)就能够变强。
  2. 资本对AI的青睐已经产生了多方面的影响:小白用户也可以使用深度神经网络得到不错的结果;无监督学习能力的成熟;专用芯片大幅加成AI的效率(从通用芯片 -> GPU -> FPGA -> digital ASIC -> analog ASIC,每一次改进就是10倍的效率提升)。
  3. DAO的发展程度,已经足以提供让AI自行获取资源的能力。
  4. AI的发展道路上,并不存在根本性的阻碍。

当区块链遇到大数据

2016年年底,Trent先后撰文两篇,其一是《区块链与大数据》,其二是《区块链与AI》。

在21世纪最初的几年间,互联网规模的大数据方案开始成形:Yahoo的ZooKeeper,Google的BigTable与MapReduce,Facebook的Cassandra,然后是开源的Hadoop文件系统、Hadoop MapReduce、Cassandra等。到2010年前后,MongoDB、Cloudera、DataStax等初创企业又把这些开源的大数据项目做成了商业方案。今天,大数据技术正在静悄悄的改变世界上每一个企业的后端。

Trent认为目前的大数据技术正面临三个关键挑战:

  1. 控制权。谁控制数据背后的基础架构?数据如何向全球共享?数据的多个版本如何更新?不同区域的管理员指派给谁?数据能否成为像水、电、计算、网络一样高度共享的资源?
  2. 数据验证。数据生成者如何证明数据是来自这里?数据使用者如何能够信任别人生成的数据?如何应对机器故障造成的数据错误?
  3. 变现。数据的所有权、使用权如何交易?如何打造一个通用的数据市场?

区块链也是一种数据库,具有三个明显特征:

  1. 去中心化(每一个管理员控制一个节点,全体管理员共享控制权)
  2. 数据不变性(全链路各个环节均可用私钥/公钥/哈希进行数据验证,能够更有效的剔除“坏”数据)
  3. 天生的资产/交易属性

因此,Trent认为区块链能够解决大数据目前面临的挑战——前提是区块链技术要在可扩展性方面有所突破,能够满足海量用户群的写入、读取、查询需求。

当大数据遇到AI

我从90年代开始从事AI研究,当时最常见的研究方式是:拿一个数据集(一般很小,而且数据是固定的),设计一个能提升性能的算法——比如针对SVM的分类器设计一个新内核以减少AUC,然后把这个算法拿去发表。在当时,“可发表”的标准差不多是10%的提升。如果你的算法实现了2倍甚至10倍的提升,那就算得上是“最佳论文”了。

2001年,微软研究员Banko和Brill发布了一篇重要的论文。他们首先描述了自然语言处理领域在当时的状态:通常以不到百万数量的词汇做为数据集,在普通算法(如Naive Bayes / Perceptrons)下有25%的错误率,在一些全新的基于内存的算法下能实现19%的错误率。然而这并不是重点。Banko和Brill的重要发现是:不改算法,只是增加数据集——10倍100倍1000倍的增加,结果是错误率惊人的下降。在1000倍的数据量下,系统的错误率减少至5%以下。更惊奇的是在这个量级的数据集下,老掉牙的50年代Perceptrons算法的表现反而超越了那些基于内存的新算法。

2007年,Google研究员Halevy、Norvig和Pereira发布了一篇类似的论文,描述AI如何在吞食了大量数据之后变得“不可理喻的高效”——在很多领域都是如此。

AI的竞争,从此变成了数据量的军备竞赛。

回顾这几十年的AI发展史,AI技术在最近几年的发展速度是最快的,而数据量就是关键。

今天,无论是Google、Facebook,还是阿里、腾讯、百度,都管自己叫做数据公司。无论他们是卖广告、卖商品、卖理财、卖游戏还是卖外卖,对他们而言,数据量就等于赚钱能力。这些在数据量储备上远远超过了其他竞争者的巨头们,并不会希望被市场上的其他玩家掌握更大量级的数据。

然而对于数据收集能力有限的非巨头玩家而言,数据共享可能会给他们带来数倍体量的数据集,这会带来显著的好处。比如,如果各个银行们将数据合并为一个数据集,则每一家银行都能够更准确的识别信用卡欺诈。如果能源公司与制造公司的数据能够合并为一个数据集,则其中的每一家公司都能够更准确的预测市场。如果全球四大钻石鉴定实验室的数据合并为一个数据集,则每一家鉴定机构都能够更准确的为钻石定价。如果保险公司能够获取这些能力,则也能获得更大的收益。

当区块链大数据遇到AI

以前由于安全问题,大家即使看到了数据共享的好处也不敢去做。而一旦区块链大数据技术成熟,情况将有所不同:

一位AI研究员+区块链创业者的终极展望:AI DAO将统治世界

  1. 去中心化的数据控制方式将促进数据的共享,不仅意味着更多的训练数据(对AI而言意味着更好的模型),同时也意味着AI模型的共享。
  2. 更高效的数据验证,减少了训练数据中的坏数据,提升模型的可信度。
  3. 训练数据与模型成为可以交易的IP资产。

AI从业者总是面临一个挑战:上哪儿去找数据集?以前的数据集大多数在网上七零八碎的躺着,只有一部分比较完整的数据集收录在几个列表中,还有大量的私有数据集是我们获取不到的。如果我们有一个全球化的数据库来管理这些数据集呢?不仅有Kaggle,有斯坦福的ImageNet,还有无数其他的数据集。

有需要的话,就上IPDB看看吧。人们在这里上传自己的数据集,使用他人的数据集。数据集本身存储在类似IPFS的去中心化文件系统上,IPDB上保存元数据用于索引。以后,IPDB上也许不仅仅有数据集,还可以有从这些数据集中构建出的模型。人们可以在这里使用他人的模型,上传自己的模型。

共享到区块链上的数据本身具备资产属性,可以直接交易与变现。这也可能成为一个数据共享的驱动力。事实上,今天的公共数据市场已经有十亿美元的体量——一个有Bloomberg的1000倍那么大的去中心化数据市场是完全有可能实现的。

现在已经有相应的区块链技术可以把数据集与模型注册为IP资产,简单来说就是:

做为示范,Trent在ascribe给一个自己以前做的AI模型申请了“著作权”,得到了一张虚拟证书:

一位AI研究员+区块链创业者的终极展望:AI DAO将统治世界

数字版权可以以非常具体的方式进行授权,如著作权、所有权、使用权、编辑权、分发权等等,这些权限在区块链中可以相对容易的进行管理。就比如在DeepMind基于区块链的医疗项目中,用户就可以自己保有数据所有权,只授予DeepMind使用权。

最后,别忘了还有AI DAO这种可能性,让AI可以自行征用更多资源。

在过去,人类已经培育过去中心化的程序,那就是病毒。没人能拥有它们,没人能控制它们,没人能关闭它们。它们只是存在,试图搞坏你的计算机。

今天,有了更好的API(智能合约语言),有了去中心化的存储系统(区块链),这些去中心化的程序将能够做更多的事情。

通用人工智能——AGI,是可以自发行动的代理决策者(agent),是一种反馈控制系统。控制系统是个顶呱呱的好东西。控制系统的数学基础深厚,可以追述到1950年代Wiener的“Cybernetics”。控制系统与这个世界交互(通过传感器与执行机),并适应这个世界(通过内部模型与外部传感器来更新自己的状态)。控制系统应用广泛——恒温空调、降噪耳机、汽车刹车、下围棋的AlphaGo,这个世界到处都是它的身影。

AI DAO是一个运行在去中心化软件上的AGI控制系统。它不断的获取输入,更新状态,调整输出,并获取资源以持续维持这个反馈循环。

一位AI研究员+区块链创业者的终极展望:AI DAO将统治世界

如上所述,AI DAO有很多可能性,其中包括增强AI自身的能力。比如,AI DAO可以发起“请求为我的数据做标记”的有偿请求(智能合约),用低成本雇人来完善自己的数据集(去中心化的Mechanical Turk);AI DAO还可以发起“将你的数据给我”的有偿请求,让IoT设备用自己的数据来交换电费。

Trent十分看好AI DAO的潜力。然而另一方面,Trent十分不看好AI与人类共存的未来。他说,很快就会有那么一天,AGI的智能将达到人类的最高水平;之后又过了几天,人类的智力在AI面前就会像蚂蚁一般渺小。到那时候,人类已经无法控制AI,而AI自己会决定是否要对人类“友好”。