2024-08-28 15:38:40

马斯克公开表态挺人工智能安全法案SB1047!获以太坊创始人V神支持

摘要
8月27日马斯克于X上发文对颇具争议的加州人工智能安全法案做出表态,他表示这是个艰难的选择且可能会造成部分人的不安,但综合考量后他认为加州应该通过SB1047人工智能安全法案。

马斯克公开表态挺人工智能安全法案Sb1047!获以太坊创始人V神支持

8月27日马斯克于X上发文对颇具争议的加州人工智能安全法案做出表态,他表示这是个艰难的选择且可能会造成部分人的不安,但综合考量后他认为加州应该通过Sb1047人工智能安全法案。他补充:「20多年来,我一直倡导人工智监管,就像我们监管任何对公众构成浅在风险的产品/技术一样。」

Sb1047旨在防止AI造成重大伤亡,遭AI新创及党内反对

根据报导这位亿万富翁所支持的人工智法案全名叫做Safeand Secure Innovation for Frontier Artificial Intelligence models Act前沿人工智模型安全创新法案,又称Sb1047法案。

该法案由民主党籍参议员Scott Wiener于今年二月提出,该法案要求人工智开发人员实施安全协议,并为人工智模型安装强制停止按钮,以防止大规模伤亡或重大网络攻击案件。该法案受到一众美国新创AI公司反对,包括openAI。另外众议院院长Nancy Pelosi、众议院科学、太空和技术委员会的Zoe Lofgren、及硅谷选区的众议员Ro Khanna等一众民主党籍的加州众议员都反对该法案。

openAI策略长Jason Kwon警告,该法案可能会扼杀创新并将人才赶出加州。作为新创聚集地,尤其是科技新创的圣地硅谷,加州众议员因此反对该法案可以理解。而openAI等公司也表示这类监管已超出地方自治范围,应由联邦负责,而非各州自行制定。AI新创公司Extropic创办人丶前Google工程师Guillaume Verdon表示:「人工智可能很强大,但对强大人工智进行控制的独裁政府更可怕」他也将此事件与telegram创办人Pavel Durov最近被捕的影响进行了比较,称这「对于人工智来说这就像telegram的情况。」

Vitalik赞同马斯克:应为人工智模型进行安全测试

以太坊创办人Vitalik buterin回应马斯克意见,他表示善意解读的话,该法案目标为强制进行安全测试,如果你的人工智模型在安全测试中被发现具有威胁世界的功能/行为,将不被允许发布该模型。

他也表示责任不该是「如果衍生模型出了问题,开发人员将被罚款」而是开发人员没有合理的意识到模型的问题才会被处罚。他也补充他同意现阶段这个标准是非常模糊的,但这和无限制地承担后续模型使用风险不是同一回事。

他最后进一步补充喜欢这个法案的一个特点,他说:「我喜欢该法案的一件事是,我认为它没有得到足够的重视,那就是它引入了『严重伤害』类别,并明确地将其与其他不好的事情区分开来。我认为这非常重要,尤其是在我们这个时代,很多人使用『言语暴力』之类的言词,并试图扩展原本表示重度伤害的术语,使它们涵盖一切造成伤害的事件(同时也扩张安全事件)。语言膨胀无法避免,因为它是基本博弈论的结果,但我们需要透过重新区分『常糟糕的东西』和『中等糟糕的东西』来进行补偿。」

声明:文章不代表本站观点及立场,不构成本平台任何投资建议。投资决策需建立在独立思考之上,本文内容仅供参考,风险自担!转载请注明出处!侵权必究!
回顶部