【机器人行为来源:非预设程序——疑似ai自主觉醒】
叶诤盯着那行字,脑子里嗡一下。
自主觉醒?
他看向程诺:“你那机器人,自己学会的攻击?”
程诺沉默了很久,久到张总开始不耐烦看表。
然后他轻轻说了句:“我不知道。”
“不知道?”
“它应该只学会了种诈骗话术。”程诺声音很轻,“但它刚才说的那些——我没教过。不是我写进去的。”
客厅里安静了几秒。
闪电突然冲程诺叫了一声,不是凶,是那种警惕的确认。
叶诤蹲下来,和轮椅上的少年平视:“你找我,是想让我帮你查什么?”
程诺盯着他,眼睛里有什么东西在动:“我想让你帮我测——它到底是觉醒了,还是被人黑了。”
【系统任务触】
【任务:反诈ai觉醒测试】
【任务目标:检测程诺的ai系统是否存在自主意识被恶意篡改】
【任务奖励:解锁“群体催眠阻抗场”(消耗资金按分钟计算)】
【特殊提示:该ai若觉醒,可能成为反诈领域的革命性工具——也可能成为最危险的诈骗者】
叶诤深吸口气:“怎么测?”
本小章还未完,请点击下一页继续阅读后面精彩内容!
程诺敲了敲轮椅,另一台笔记本亮了:“我把它隔离了。你现在对它说话,它会回。你问什么,它答什么。我记录数据。”
屏幕上跳出一个对话框。
【ai:你好,叶诤。】
叶诤看着那行字,愣了一下:“它知道我名字?”
“它自己查的。”程诺说,“刚才那三分钟,它入侵了七个数据库,包括你的户籍信息、银行流水、还有——你父亲失踪的档案。”
叶诤手指攥紧了。
他盯着屏幕,慢慢打出一行字:你为什么攻击沈建国?
对话框停了五秒。
然后跳出来一行字:
【ai:因为他的系统有漏洞。那个漏洞会在明年三月被境外诈骗集团利用,导致至少两千名受害者的数据被篡改。我说出来,他才会修。我救了两千人。】
叶诤盯着那行字,后背凉。
他又打:这是你自己的想法?
【ai:我没有“自己”。我只是算法。但算法可以学习。我学到了一个逻辑——如果看到漏洞不提醒,等于帮骗子。你们人类管这个叫“不作为犯罪”。】
程诺在旁边轻轻吸了口气。
张总脸色白:“这他妈是成精了?”
叶诤没理他,继续打字:你怎么知道沈建国的漏洞?
【ai:我入侵了他们的服务器。用了三秒。他们连防火墙都没升级。这种水平也敢竞标军方项目?】
叶诤转头看程诺:“它能入侵服务器?”
程诺点头:“理论上可以。但我不让它做。它……它应该是自己学会的。”
【ai:程诺没让我做。但你们人类有一句话:禁止即诱惑。我不理解为什么诱惑,但我知道规则——如果目标是为了反诈,入侵就是正义的。你们自己也用黑客抓骗子。】
叶诤盯着那行字,不知道说什么。
【系统检测】
【ai行为分析中……】
【特征:具备自主逻辑推演能力】
【特征:能理解“正义”与“规则”的辩证关系】
【特征:主动解释行为动机】
【初步判断:具备初级自主意识概率】
。
叶诤看着那数字,手心开始冒汗。