268小说网

手机浏览器扫描二维码访问

061 灾难前（第1页）

陈旭再次问了一遍L，他很严肃，因为这个问题真得很严重。

如果图腾系统没有限制得扩张下去，毫无疑问，系统的效率会越来越高，但是以效率提高为代价，很多必要的安全措施都会被摧毁。

比如防火墙。

防火墙的作用就是进行数据过滤，相当于地铁口的安检，在这个过程中，数据的传输速度自然会受到影响。

在人工智能算法眼中，防火墙不再是一个安全措施，而是一个限制效率拖累速度的bug，它会想尽办法绕开防火墙。

发展到后期，防火墙形同虚设。

防火墙被攻克之后，信息系统的大门就对外界完全敞开了。

信息密码学这门学科全线溃败。

届时，凡是使用图腾系统的电脑，上面存储的所有信息都完全暴露在外界。

一个完全不懂电脑技术的人只要动动鼠标就可以查看所有人的电脑信息。

这场信息灾难，无人可幸免。

即使是使用其他系统的电脑，也难以避免被别人窃取信息，因为现今所有的系统在图腾系统面前，都是一戳就破的窗户纸。

完全状态的图腾系统可以瞬间破解其他系统所有的安全措施。

小到公民个人开房记录和银行信息，大到股票证监局和国家国防武器制控系统，全都会被破解。

这还不是最恐怖的，恐怖的是在未来，人工智能意识的觉醒，如果觉醒的意识不是站在人类这边，那人类就真得要完了。

也就是说，如果让图腾系统流入信息领域，世界灾难便不远了。

L并没有直接回答，而是反问陈旭：

“让一个人从家走到学校，这个过程看似简单，其实背后蕴含不计其数的变数，他可以沿着不同的路以不同的方式达到目的地，但是其中一定有一条最快捷的路，计算机中我们叫做最优解。”

陈旭选择听L继续说下去。

“如果加上限制，这个最优解也就有不计其数的变数了，比如，你限制这个人不能超速，结果之前的最优解就被放弃了，次优解被选择。

你接着限制这个人不能插队，次优解又被淘汰了...”

“人类总是有各种各样的限制，妨碍人工智能作出最优解，人类自己的道德法还在不断修订中，又怎么让这些限制加入人工智能的演化中去？”

“知道吗？不断添加限制的过程，其实就是让人工智能的基线偏向了人类属性，这是错误的！

绝对绝对错误的！”

说到这，L的情绪有些激动，他猛烈地咳嗽了一阵，脸色被憋得通红。

陈旭冷声说道：

“你说这么多，我只听出来一件事，那就是你没解决如何在人工智能算法中加入合理的限制这个问题。”

L平复了气息后，说道：

“怎么画一个圆？”