唐凤说:“AI目前虽然还没有办法完全全自动地去合成新的电脑病毒,然后用它来进行攻击,但是等到它演化到某一个程度之后,说不定以后就会Living Off the Land,就是说当你攻击进对方的某一个网路系统之后,那个病毒就住在那儿了,它住在那儿之后,用它的算力,用那台电脑再去写出新的病毒,再去写出新的病毒,它就不需要外面的人来控制了,目前看起来这一代的AI模型还没有这样的能力,但是我们不是很确定说两代之后、三代之后,会不会就有这样子的能力,一旦有这样子的能力,部署攻击的人可能本来把它当作遥控来使用,但是后来它产生了agentic, 就自己开始动了,这个时候就连发动攻击的人也没有办法再控制它了。”
“所以现在所谓的安全竞赛(Race to Safety),就是要在AI还没有这方面的能力之前,先去想清楚说,它冒出这样能力的时候,它会有什么样的征兆,然后当它开始接近这个临界值的时候,尽快地把它感应出来,感应出来之后,就要采取一些控制的措施,或者甚至说超过这个临界值的开发,就不能像以前那样的开发了等等,如何设定临界值以及加重这方面的投资,是目前我们正在讨论的重点。“