迪文小说

迪文小说>科技霸权 百科 > 第140章 现在是我们的时代(第1页)

第140章 现在是我们的时代(第1页)

机器得承认,人类才是需求的主导。

第三条原则是根据人类行为给机器设定偏好并提供依据。

这么设定是因为机器往往不清楚如何具体实现人类的价值。

但这不要紧,人类可以协助机器实现。所以要加强人机互动。

因为郝淮构想中的机器人,目的不仅仅是为了满足某个人或用户的需求,而是要遵循大家公认的道德价值观。

比如,人可能会犯错,做出违背道德的事。但郝淮不想让机器人模仿这些行为。

相反,他希望机器能尝试理解人类行为的动机,理解普遍的道德观念,并在适当时候阻止人类做不应该做的事。

这三条看似宽松实则严格的法则,不仅能限制机器人自我发展的潜力,还在某些适度宽松的地方,留给了机器人自我逻辑完善的余地。

防止因某些设定过于极端的法则导致机器人逻辑矛盾,进而引发故障。

这三个法则将直接焊死在核心代码里,永不可改。

“法则之后,就是防火墙和模块接入……”

“如果能确保法则不出问题,接下来就要保证病毒进不来。”

郝淮捏了捏鼻子,眼神也锐利了几分。

在那些机械文明中,有的因编程时的漏洞导致人工智能失控,有的则是人为因素。

因此,郝淮在吸收大量资料后,决定将核心代码纯净化!

简单讲,就是核心代码会被防火墙严密包裹。

日常运行通过复制的镜像系统进行。

而且,核心代码不接纳任何第三方程序。

这就是防火墙和模块接入的含义。

用防火墙保护核心代码,再通过镜像系统与所有第三方程序连接。

这样一来,所有外部程序都将以模块化形式存在。

一旦发现病毒,就能迅速隔离带毒模块。

就算病毒侵入系统,也能直接销毁镜像系统,然后重新复制一份。

平时,核心系统完全不参与工作,

也与所有模块完全隔离。

只有当镜像系统出问题时,才会人工复制一份新的。

只要核心系统不受病毒感染,就算病毒再厉害,也无法对人工智能构成威胁。

就像电脑杀毒,最粗暴的方法就是重装系统!

而守护核心系统的防火墙,郝淮计划定期升级。

确保防火墙技术始终领先地球二十年!

这样一来,即便有天才出现,在郝淮反应过来前破解防火墙也很难。

只要给郝淮反应时间,就算有问题,他也自信能解决。

至于最后的终极代码,

已完结热门小说推荐

最新标签