阅读历史 |

第482章 想起了一位故人(2 / 2)

加入书签

之外,她内心深处有个直觉,她与林教授在过去有过交集。

像一位……故人。

难道是那段遗失记忆中的一部分?

林教授忽然停下,目光温和地看着她说,“唐小姐,你盯着我的脸看了很久了。”

唐念“哦”了一声,佯装平静地看向屏幕,“不好意思,你刚刚说到哪了?”

林隅之抬手看了一眼时间,体贴地沉思片刻,然后说,“这些东西可能对你来说很枯燥。”

唐念摇头,“还好,我会试着理解。”

屏幕上闪烁着密集字符,以极快的速度刷新着,它们是信息的载体,正自动训练消化研发团队灌注的数据和指令。

唐念提出一个问题,“你刚刚说这个模型会不断地自我迭代,那么我有一个疑问,如果有一天它的迭代进步到了超出人类能够控制的地步,到时候该怎么办?”

“比如什么样的超出控制?”

“比如……将人类困在它的掌控之下,像驯化动物园里的动物一样,将人类关起来的那种?”

屏幕的冷光照在林隅之薄薄的镜片上,字符仿佛拥有了生命,不断跳跃。

他转过身,正面对着唐念,淡色的唇瓣镀上一层金属感的冷色。

声音却依旧温和。

“在核心编码中,我植入了人类安全保护协议,这是一条基础编程限制,任何超出协议允许范围的行为,都将触发系统内部的自毁算法,从而避免潜在的不受控制的风险。所以你不用担心人类的利益与安全问题。”

唐念轻轻地摇了摇头。

“你口中的保护人类是基于人类身份,可如果是算法呢?”

林隅之安静地看着唐念,并不打断。

“如果有一天它理解的保护人类是将人类豢养起来呢?就像人养宠物那样,出门上班时会把它关在家里,因为担心外面危险,它出门会受伤,所以在我们的理解里,将宠物关在家里就是对它的保护。”

偌大的办公室变得很安静,只剩下电脑主机发出的微弱电流声。

唐念的嗓音在安静的环境中显得格外清晰。

“缺失了人性化的理解与判断,就可能在关键时刻偏离了原本保护人类的初衷,导致无法预料的后果。”

她对上林隅之的目光,认真地说,“如果算法理解错误,甚至违背了人类真正的意愿和需求,那将是一种灾难。”

林隅之的眼神多了几分认真,他安静地听唐念讲话,若有所思。

机房里不知什么时候只剩下他们两个。

唐念顿了顿,继续说,“毕竟,它是机器,可能会过度执着于某些逻辑或指令,而忽略了我们人类更为复杂和多元的情感与需求。”

如果人工智能过于执着于执行某项指令,而忽略了人类的实际安全或利益,那么这种保护就失去了意义。

比如,算出毁灭会到来,就提前以保护的名义,终结他们的生命。

"我可以理解你的担忧与不安,你的担忧是合理的,角度也完全正确。”

林隅之说话时带着很浅的气音,两人相隔不足一米的距离,足以是唐念看清他的眼睛。

很浅的褐色,像琥珀。

“很多科学技术诞生之初都会伴随着质疑和担忧,在我们看到未来到来之前,有很多事情都是有可能会发生的,这是一场很危险的博弈。”

他的声音有安抚的意味,大概是因为唐念的担忧实在是太过明显。

不过刚刚那一段长长的质疑这足以证明她真的思考过,林隅之起身给她倒了一杯温水,随后拉开椅子示意她坐下。

唐念问,“如果将它的数据上传到互联网,那么它会不会可能像病毒一样在任何一个联网的终端上复制、蔓延、扩散?”

从某种角度看,唐念接二连三的担忧冲刷掉了林隅之对她原有的刻板印象。她所表达的担忧深切,某种意义上证明了她拥有责任感,并非外界谣传中那种混吃等死、不学无术的酒囊饭袋。

他缓缓地补充,“我为它设定了严格的框架,它不能离开它的主控系统,一旦它离开了我设置的区域——比如说上传网络并复制备份——就会自动启用自毁程序。”

“你不觉得这样的风险太高了吗?一旦失控,后果将一发不可收拾。”

唐念又说,“而且,现在所有人的金钱都储存在数字世界里,如果031失控,那将会是一场金融灾难,甚至可能引发社会的动荡。”

她越说越觉得这样的前景令人担忧,与031的诞生注定会是一场……

然而,林教授却疑惑地出声,“031?”

唐念心里咯噔一下,“这个项目起名了?”

“目前还没有,只有项目编号和日期。”

↑返回顶部↑

书页/目录