第723章 你小子为了赚钱,当真是拿我们当猪宰啊!

在沈北眼中,机器人是为人类服务的,人类必须拥有对机器人绝对的控制权。

任何联网学习功能,都必须被禁止。

避免造成不可控的危机。

如果不受控制,沈北宁可毁掉这款机器人,也不会拿出来促进社会进步。

其次,语言歧义也是一个问题。

自然语言或会产生歧义的语言无法具有约束力。例如,机器人如何判断何为“人类”或“轻重伤”,这些定义的模糊性可能导致机器人行为的不确定性。

尤其是多重意识的表示,会让机器人智能产生混乱,进而发生一些人类无法理解的事情。

此外,道德和法律冲突也是一个问题。违反法律需要第三方来惩罚,而违反道德最多只是受到谴责。

三定律是内置在机器人系统中的,违反了的话机器人自己就会“自杀”。然而,如果机器人能够修改自己的固件,这一限制就可能被突破。

最后,逻辑冲突也是一个重要的漏洞。例如,在面对“电车难题”时,机器人可能会陷入两难境地,不知道该如何选择。即使是现代的AI系统,如ChatGPT,在面对类似问题时也会表现出困惑。

总之,尽管机器人三大定律在理论上提供了一种确保机器人安全的方法,但在实际应用中仍然存在许多漏洞和问题。

对于其他公司而言,这些问题需要通过进一步的研究和技术发展来解决。

并不是迫在眉睫的事情。

他们的目标还是要发展,而不是考虑机器人有可能觉醒带来的问题。

可对于沈北而言,这完全不同, 千变公司的机器人已经发展到绝佳顶峰的存在。

就连欧米茄都使用这套代码来爆兵。

所以,沈北首要关心的问题就是限制机器人的全能发展。

直接锁死特定能力,其他能力一概不予施加或者预设。

此时的辽师长挠挠头,机器人没有达到他的心里预期,神色有些不爽:“不会打架怎么行!改!赶紧改!”

沈北笑着接话说道:“这就涉及到定制了。”

没错!

哪怕是军方,沈北也得要求对方定制!

依旧秉持底线原则,不该加的功能,绝对不加。

想要会打架,花式跳绳的表演就别想了,更不可能让机器人学习炒菜。

哪怕是无关紧要,对人类不会产生伤害的功能,沈北依旧坚持不松口。

一旦这个口子破开,千变公司未来将走向不可控的局面。

毕竟,沈北是人。

不可能长生。