“你不是在火星建立基地了吗？可以尝试修复一下龙国基地内受损的数据库。”蒙卡提醒道。 “嗯，这个办法不错。” 东方辰满意的点点头，说道： “小琳，向火星基地蜂后下达指令，修建一条可以通向龙国基地的隧道，并尝试修复那里的算力中心。” “好的，司令官阁下，指令已下发。” 东方辰知道，这个办法只能应应急，长远看，还是需要走通研发这条路。 龙国的技术也是有瓶颈的，最终还是要面对同样的问题。 蒙卡的话给他提了个醒。 研发是个双刃剑，如果依靠人工智能来做这件事，风险性是很高的。 自我意识这东西，是发展的推动力，也是毁灭的推动力。 “蒙卡，你有没有什么愿望？”东方辰问道。www.ba1zw.com 他好奇一个看起来和一个正常人差不多的智能机器人，在思维上和真正的人到底有什么不同。 “有啊，我希望任务早点结束。”蒙卡答道。 “结束后呢？” “谁知道呢？没想过。” 果然，机器人想什么被限定的死死的。 这中间应该还有什么情绪模拟的机制，让她对什么事感到愉悦、什么事感到愤怒、什么事感到痛苦等做了一系列的约定。 在这种情绪控制下，她们自然而然的选择做更愉悦的事，而远离那些感到痛苦的事。 这种机制在模拟人类的同时，减少了失控的风险。 看来以技术研发技术这样的思路，想要达成不是一朝一夕的事。 东方辰又不由自主的想起了刚刚收复的皇后。 其实皇后只要不断繁衍，也可以源源不断的提供新技术。 但同样的，也面临着失控风险。 其实人也一样。 要是较真的说，一直以来人类研发新技术的核心动力，还是生存。 所以就自然而然的出现一个奇怪现象，新的技术总是优先使用在武器上。 难道死于自己研发的武器之手的人类还少吗？ 所以，说来说去，发展都是一个双刃剑。 难道怕风险，就不发展了吗？ 不可能。 前怕狼后怕虎，不如回家种红薯。 “槽！早死早超生！”东方辰咬了咬牙，下定决心。 以技术推进技术是技术发展的必然趋势，现在不搞，更待何时？ 不过说归说，做归做。 决定走这条线，还是要做好充足的准备。 尽量把可能预见的风险扼杀在初始状态。 “小琳，设计一个熔断器，不需要太复杂，不允许编程。” “好的，司令官阁下。请问这个熔断器用在什么地方？” “用于两个超算中心之间的连通。” “好的，请问是需要设计一个数据中转的装置吗？” “对，确实用来作为数据中转，不过可以通过外部操作随时关闭。”东方辰点点头。 “请问使用何种连接方式？” “使用量子通讯。熔断器必须单独放置。” “好的，司令官阁下。” 东方辰的思路很简单。 把一个超智能超算中心设计成两个独立的部分，就像人的左脑和右脑一样。 两个大脑通过熔断器进行数据中转。 不过为了防止超智能进化到一定的程度之后，修改或者控制熔断器。熔断器必须做成死的东西，不允许编程。并且必须单独放置，防止被修改或者替换。 但仅仅是这样还不够。 如果超智能体进化出足够的技术后，铁了心与人类为敌，那么熔断器就成为它首先要占领的地方。 到时候自己未必可以发现的了。 所以还得把供电独立出来，并分别单独控制。 但凡有一边出现被攻击或者闯入，另外一边都会立即中断连接。 这样的话，超智能体想要控制熔断器，就会非常的困难。 至于后面有没有更好的办法，后面再说。 至少现在这个方法够用了。 有熔断器的存在，就相当于给超智能体上了一层枷锁。 这样它就只能乖乖听话做事。 有了这层保障，他就可以放心的发展超人工智能了。 “小琳，设计一套系统，模拟人类智慧，并且拥有自主意识。” “抱歉，司令官阁下，当前任务无法完成。系统不具备构建自主意识的能力。” “搜索龙国火星基地数据库，查找相关方面的资料。” “好的，正在查询，请稍后。”
https://www.ba1zw6.com
第693章 熔断器(1/2),点击下一页继续阅读